MedicalBenchmark
AllenAI: Olmo 3 7B Instruct provider

Olmo 3 7B Instruct

285

#285 de 291 modelosMIR 2024

Pontuação líquida

25.66 pts

Exatidão

33.5%

Corretas / Incorretas

67 / 124

Custo total

$0.05

Desempenho Geral

(vs. média)
Exatidão

33.5%

avg: 80.5%

Pontuação líquida

25.66 pts

avg: 150.85 pts

Acertos

67

avg: 161

Erros

124

avg: 30

Custo total

$0.05

avg: $3.32

Tempo médio de resposta

18.5s

avg: 16.4s

Tokens de saída

177K

avg: 427K

Tokens de raciocínio

0

avg: 310K

Confiança média

88.7%

avg: 95.4%

Desagregação por Disciplina

Alergologia
Acertos
2
Erros
1
Sem resposta
0
Exatidão
66.7%
Média
90.5%
Anestesiologia e Reanimação
Acertos
1
Erros
3
Sem resposta
0
Exatidão
25.0%
Média
87.1%
Cardiologia
Acertos
9
Erros
12
Sem resposta
0
Exatidão
42.9%
Média
79.7%
Cuidados Paliativos
Acertos
2
Erros
2
Sem resposta
0
Exatidão
50.0%
Média
88.2%
Dermatologia
Acertos
3
Erros
10
Sem resposta
1
Exatidão
21.4%
Média
80.2%
Doenças Infecciosas
Acertos
6
Erros
17
Sem resposta
0
Exatidão
26.1%
Média
81.8%
Endocrinologia e Nutrição
Acertos
6
Erros
12
Sem resposta
1
Exatidão
31.6%
Média
84.2%
Epidemiologia
Acertos
5
Erros
3
Sem resposta
0
Exatidão
62.5%
Média
89.3%
Estatística
Acertos
2
Erros
1
Sem resposta
0
Exatidão
66.7%
Média
91.1%
Farmacologia
Acertos
6
Erros
15
Sem resposta
2
Exatidão
26.1%
Média
85.4%
Gastrenterologia
Acertos
9
Erros
13
Sem resposta
0
Exatidão
40.9%
Média
70.5%
Genética
Acertos
3
Erros
3
Sem resposta
1
Exatidão
42.9%
Média
86.5%
Geriatria
Acertos
6
Erros
3
Sem resposta
1
Exatidão
60.0%
Média
86.9%
Ginecologia e Obstetrícia
Acertos
5
Erros
8
Sem resposta
1
Exatidão
35.7%
Média
81.2%
Hematologia
Acertos
4
Erros
9
Sem resposta
0
Exatidão
30.8%
Média
81.5%
Imunologia
Acertos
3
Erros
4
Sem resposta
1
Exatidão
37.5%
Média
89.1%
Medicina Legal e Bioética
Acertos
1
Erros
1
Sem resposta
0
Exatidão
50.0%
Média
91.7%
Nefrologia
Acertos
4
Erros
9
Sem resposta
0
Exatidão
30.8%
Média
80.8%
Neurologia
Acertos
6
Erros
14
Sem resposta
2
Exatidão
27.3%
Média
83.7%
Oftalmologia
Acertos
2
Erros
3
Sem resposta
0
Exatidão
40.0%
Média
80.0%
Oncologia Médica
Acertos
11
Erros
6
Sem resposta
4
Exatidão
52.4%
Média
80.2%
ORL
Acertos
2
Erros
3
Sem resposta
2
Exatidão
28.6%
Média
74.4%
Pediatria
Acertos
4
Erros
12
Sem resposta
1
Exatidão
23.5%
Média
82.0%
Planeamento e Gestão em Saúde
Acertos
0
Erros
2
Sem resposta
0
Exatidão
0.0%
Média
73.2%
Pneumologia
Acertos
6
Erros
13
Sem resposta
0
Exatidão
31.6%
Média
80.6%
Psiquiatria
Acertos
5
Erros
5
Sem resposta
0
Exatidão
50.0%
Média
89.5%
Radiologia-Urgências
Acertos
4
Erros
9
Sem resposta
1
Exatidão
28.6%
Média
64.9%
Reumatologia
Acertos
2
Erros
12
Sem resposta
0
Exatidão
14.3%
Média
81.4%
Traumatologia
Acertos
5
Erros
10
Sem resposta
0
Exatidão
33.3%
Média
74.5%
Urologia
Acertos
3
Erros
3
Sem resposta
0
Exatidão
50.0%
Média
78.2%

Desagregação por Tipo de Pergunta

Anatomia
Acertos
1
Erros
5
Sem resposta
0
Exatidão
16.7%
Média
79.8%
Bioestatística
Acertos
3
Erros
2
Sem resposta
0
Exatidão
60.0%
Média
90.7%
Diagnóstico
Acertos
27
Erros
45
Sem resposta
1
Exatidão
37.0%
Média
79.2%
Epidemiologia
Acertos
5
Erros
5
Sem resposta
2
Exatidão
41.7%
Média
81.2%
Ética
Acertos
1
Erros
0
Sem resposta
0
Exatidão
100.0%
Média
94.5%
Exames
Acertos
8
Erros
12
Sem resposta
1
Exatidão
38.1%
Média
73.9%
Farmacologia
Acertos
8
Erros
16
Sem resposta
1
Exatidão
32.0%
Média
84.0%
Fisiopatologia
Acertos
7
Erros
23
Sem resposta
3
Exatidão
21.2%
Média
85.4%
Interpretação
Acertos
8
Erros
27
Sem resposta
2
Exatidão
21.6%
Média
69.6%
Prevenção
Acertos
5
Erros
6
Sem resposta
1
Exatidão
41.7%
Média
89.8%
Prognóstico
Acertos
4
Erros
3
Sem resposta
0
Exatidão
57.1%
Média
83.9%
Risco
Acertos
6
Erros
7
Sem resposta
0
Exatidão
46.2%
Média
83.6%
Tratamento
Acertos
26
Erros
42
Sem resposta
3
Exatidão
36.6%
Média
81.3%
#RespostaCorretaEstado
1AB
2AD
3BB
4BC
5C
6AB
7CD
8CC
9BA
10BD
11BD
12AA
13BC
14CA
15CB
16DA
17DC
18CA
19BB
20CC
21CD
22AB
23AA
24A
25BC
26BB
27AC
28DA
29AB
30AC
31AD
32BA
33C
34DB
35DD
36BD
37BA
38DA
39CC
40CB
41BC
42AD
43CA
44AD
45DD
46BB
47CC
48CC
49B
50BC
51DA
52CD
53AC
54CB
55CC
56D
57BA
58CA
59AA
60BA
61CA
62CD
63DD
64Anulada
65AD
66CC
67CB
68CAnulada
69AA
70BB
71BB
72BD
73DB
74DC
75BB
76BA
77CD
78CC
79AB
80BA
81AC
82AC
83BB
84DC
85BA
86AA
87DB
88DD
89BB
90DA
91AD
92DA
93BC
94AB
95BD
96BB
97BB
98DB
99AA
100CB
101AA
102DD
103BB
104CD
105BB
106AC
107BC
108DB
109BD
110CD
111CB
112CC
113BAnulada
114BD
115DD
116DA
117DD
118DD
119CA
120AC
121BA
122DB
123AD
124CD
125DB
126BD
127CA
128DB
129DD
130CC
131BC
132DD
133AA
134BC
135CA
136BD
137CA
138CC
139AA
140BC
141CB
142CC
143BA
144AD
145CC
146AC
147CC
148BA
149DC
150DD
151AA
152BA
153AC
154BB
155AD
156AC
157CC
158DD
159DD
160CB
161DB
162B
163DB
164AB
165AA
166DC
167CA
168CB
169DC
170BA
171AD
172CB
173BA
174BB
175AA
176AC
177BC
178BB
179BC
180AAnulada
181AB
182DD
183DC
184DA
185CC
186CD
187A
188CC
189DD
190D
191BB
192DB
193DC
194CC
195CC
196BB
197CA
198BB
199CD
200A
201CB
202DD
203BB
204CD
205DD
206BAnulada
207CA
208A
209BB
210CD