MedicalBenchmark
AllenAI: Olmo 3 7B Think provider

Olmo 3 7B Think

254

#254 de 291 modelosMIR 2024

Pontuação líquida

84.00 pts

Exatidão

56.0%

Corretas / Incorretas

112 / 84

Custo total

$0.14

Desempenho Geral

(vs. média)
Exatidão

56.0%

avg: 80.5%

Pontuação líquida

84.00 pts

avg: 150.85 pts

Acertos

112

avg: 161

Erros

84

avg: 30

Custo total

$0.14

avg: $3.32

Tempo médio de resposta

16.3s

avg: 16.4s

Tokens de saída

647K

avg: 427K

Tokens de raciocínio

583K

avg: 310K

Confiança média

97.4%

avg: 95.4%

Desagregação por Disciplina

Alergologia
Acertos
3
Erros
0
Sem resposta
0
Exatidão
100.0%
Média
90.5%
Anestesiologia e Reanimação
Acertos
1
Erros
3
Sem resposta
0
Exatidão
25.0%
Média
87.1%
Cardiologia
Acertos
11
Erros
9
Sem resposta
1
Exatidão
52.4%
Média
79.7%
Cuidados Paliativos
Acertos
2
Erros
2
Sem resposta
0
Exatidão
50.0%
Média
88.2%
Dermatologia
Acertos
7
Erros
7
Sem resposta
0
Exatidão
50.0%
Média
80.2%
Doenças Infecciosas
Acertos
12
Erros
11
Sem resposta
0
Exatidão
52.2%
Média
81.8%
Endocrinologia e Nutrição
Acertos
13
Erros
6
Sem resposta
0
Exatidão
68.4%
Média
84.2%
Epidemiologia
Acertos
6
Erros
1
Sem resposta
1
Exatidão
75.0%
Média
89.3%
Estatística
Acertos
2
Erros
1
Sem resposta
0
Exatidão
66.7%
Média
91.1%
Farmacologia
Acertos
13
Erros
10
Sem resposta
0
Exatidão
56.5%
Média
85.4%
Gastrenterologia
Acertos
7
Erros
14
Sem resposta
1
Exatidão
31.8%
Média
70.5%
Genética
Acertos
5
Erros
2
Sem resposta
0
Exatidão
71.4%
Média
86.5%
Geriatria
Acertos
7
Erros
3
Sem resposta
0
Exatidão
70.0%
Média
86.9%
Ginecologia e Obstetrícia
Acertos
5
Erros
7
Sem resposta
2
Exatidão
35.7%
Média
81.2%
Hematologia
Acertos
8
Erros
5
Sem resposta
0
Exatidão
61.5%
Média
81.5%
Imunologia
Acertos
7
Erros
1
Sem resposta
0
Exatidão
87.5%
Média
89.1%
Medicina Legal e Bioética
Acertos
2
Erros
0
Sem resposta
0
Exatidão
100.0%
Média
91.7%
Nefrologia
Acertos
6
Erros
7
Sem resposta
0
Exatidão
46.2%
Média
80.8%
Neurologia
Acertos
14
Erros
7
Sem resposta
1
Exatidão
63.6%
Média
83.7%
Oftalmologia
Acertos
4
Erros
1
Sem resposta
0
Exatidão
80.0%
Média
80.0%
Oncologia Médica
Acertos
10
Erros
10
Sem resposta
1
Exatidão
47.6%
Média
80.2%
ORL
Acertos
5
Erros
2
Sem resposta
0
Exatidão
71.4%
Média
74.4%
Pediatria
Acertos
9
Erros
7
Sem resposta
1
Exatidão
52.9%
Média
82.0%
Planeamento e Gestão em Saúde
Acertos
1
Erros
1
Sem resposta
0
Exatidão
50.0%
Média
73.2%
Pneumologia
Acertos
12
Erros
7
Sem resposta
0
Exatidão
63.2%
Média
80.6%
Psiquiatria
Acertos
8
Erros
1
Sem resposta
1
Exatidão
80.0%
Média
89.5%
Radiologia-Urgências
Acertos
8
Erros
6
Sem resposta
0
Exatidão
57.1%
Média
64.9%
Reumatologia
Acertos
7
Erros
7
Sem resposta
0
Exatidão
50.0%
Média
81.4%
Traumatologia
Acertos
8
Erros
7
Sem resposta
0
Exatidão
53.3%
Média
74.5%
Urologia
Acertos
4
Erros
2
Sem resposta
0
Exatidão
66.7%
Média
78.2%

Desagregação por Tipo de Pergunta

Anatomia
Acertos
3
Erros
3
Sem resposta
0
Exatidão
50.0%
Média
79.8%
Bioestatística
Acertos
4
Erros
1
Sem resposta
0
Exatidão
80.0%
Média
90.7%
Diagnóstico
Acertos
43
Erros
29
Sem resposta
1
Exatidão
58.9%
Média
79.2%
Epidemiologia
Acertos
9
Erros
3
Sem resposta
0
Exatidão
75.0%
Média
81.2%
Ética
Acertos
1
Erros
0
Sem resposta
0
Exatidão
100.0%
Média
94.5%
Exames
Acertos
9
Erros
10
Sem resposta
2
Exatidão
42.9%
Média
73.9%
Farmacologia
Acertos
12
Erros
13
Sem resposta
0
Exatidão
48.0%
Média
84.0%
Fisiopatologia
Acertos
21
Erros
12
Sem resposta
0
Exatidão
63.6%
Média
85.4%
Interpretação
Acertos
18
Erros
17
Sem resposta
2
Exatidão
48.6%
Média
69.6%
Prevenção
Acertos
9
Erros
2
Sem resposta
1
Exatidão
75.0%
Média
89.8%
Prognóstico
Acertos
3
Erros
4
Sem resposta
0
Exatidão
42.9%
Média
83.9%
Risco
Acertos
7
Erros
6
Sem resposta
0
Exatidão
53.8%
Média
83.6%
Tratamento
Acertos
40
Erros
31
Sem resposta
0
Exatidão
56.3%
Média
81.3%
#RespostaCorretaEstado
1AB
2BD
3DB
4BC
5CC
6DB
7DD
8CC
9CA
10DD
11CD
12AA
13C
14CA
15CB
16DA
17AC
18AA
19BB
20CC
21DD
22AB
23AA
24DA
25DC
26BB
27AC
28CA
29BB
30DC
31AD
32CA
33CC
34BB
35DD
36CD
37AA
38AA
39CC
40BB
41BC
42DD
43AA
44DD
45AD
46BB
47CC
48CC
49CB
50BC
51AA
52DD
53AC
54CB
55CC
56DD
57AA
58AA
59AA
60AA
61AA
62CD
63DD
64BAnulada
65CD
66AC
67CB
68BAnulada
69AA
70BB
71BB
72BD
73CB
74BC
75BB
76AA
77AD
78CC
79B
80AA
81DC
82DC
83BB
84CC
85AA
86AA
87BB
88DD
89BB
90CA
91BD
92BA
93BC
94BB
95CD
96BB
97AB
98DB
99AA
100BB
101DA
102DD
103BB
104AD
105BB
106DC
107BC
108BB
109DD
110CD
111BB
112CC
113DAnulada
114DD
115DD
116DA
117DD
118AD
119AA
120BC
121AA
122AB
123DD
124DD
125CB
126DD
127AA
128DB
129DD
130DC
131BC
132CD
133CA
134BC
135CA
136AD
137AA
138AC
139BA
140BC
141BB
142CC
143BA
144DD
145CC
146BC
147CC
148AA
149BC
150DD
151AA
152A
153DC
154BB
155CD
156CC
157CC
158DD
159DD
160DB
161BB
162BB
163BB
164BB
165AA
166DC
167CA
168BB
169CC
170CA
171DD
172BB
173BA
174BB
175AA
176CC
177CC
178BB
179BC
180BAnulada
181CB
182DD
183BC
184CA
185CC
186DD
187AA
188AC
189AD
190DD
191B
192BB
193CC
194CC
195CC
196BB
197CA
198BB
199DD
200BA
201BB
202DD
203DB
204AD
205AD
206CAnulada
207DA
208AA
209AB
210AD