MedicalBenchmark
EleutherAI: Llemma 7b provider

Llemma 7b

288

#288 de 290 modelos — MIR 2025

Pontuação líquida

3.33 pts

Exatidão

8.5%

Corretas / Incorretas

17 / 41

Custo total

$0.63

Desempenho Geral

(vs. média)
Exatidão

8.5%

avg: 75.9%

Pontuação líquida

3.33 pts

avg: 138.99 pts

Acertos

17

avg: 152

Erros

41

avg: 38

Custo total

$0.63

avg: $3.59

Tempo médio de resposta

63.6s

avg: 18.1s

Tokens de saída

437K

avg: 443K

Tokens de raciocínio

0

avg: 320K

Confiança média

28.6%

avg: 94.7%

Desagregação por Disciplina

Alergologia
Acertos
0
Erros
1
Sem resposta
3
Exatidão
0.0%
Média
86.9%
Anestesiologia e Reanimação
Acertos
2
Erros
1
Sem resposta
3
Exatidão
33.3%
Média
81.3%
Cardiologia
Acertos
0
Erros
3
Sem resposta
19
Exatidão
0.0%
Média
77.4%
Cuidados Paliativos
Acertos
1
Erros
0
Sem resposta
3
Exatidão
25.0%
Média
77.2%
Dermatologia
Acertos
2
Erros
5
Sem resposta
6
Exatidão
15.4%
Média
62.8%
Doenças Infecciosas
Acertos
5
Erros
5
Sem resposta
18
Exatidão
17.9%
Média
71.1%
Endocrinologia e Nutrição
Acertos
1
Erros
3
Sem resposta
12
Exatidão
6.3%
Média
82.5%
Epidemiologia
Acertos
1
Erros
1
Sem resposta
5
Exatidão
14.3%
Média
67.1%
Estatística
Acertos
0
Erros
1
Sem resposta
2
Exatidão
0.0%
Média
74.9%
Farmacologia
Acertos
2
Erros
5
Sem resposta
10
Exatidão
11.8%
Média
73.1%
Gastrenterologia
Acertos
1
Erros
4
Sem resposta
16
Exatidão
4.8%
Média
72.9%
Genética
Acertos
0
Erros
1
Sem resposta
5
Exatidão
0.0%
Média
68.2%
Geriatria
Acertos
0
Erros
3
Sem resposta
8
Exatidão
0.0%
Média
71.2%
Ginecologia e Obstetrícia
Acertos
1
Erros
4
Sem resposta
14
Exatidão
5.3%
Média
85.9%
Hematologia
Acertos
2
Erros
2
Sem resposta
7
Exatidão
18.2%
Média
81.8%
Imunologia
Acertos
2
Erros
1
Sem resposta
6
Exatidão
22.2%
Média
82.5%
Medicina Legal e Bioética
Acertos
2
Erros
0
Sem resposta
3
Exatidão
40.0%
Média
67.2%
Nefrologia
Acertos
0
Erros
3
Sem resposta
12
Exatidão
0.0%
Média
78.2%
Neurologia
Acertos
0
Erros
4
Sem resposta
16
Exatidão
0.0%
Média
76.2%
Oftalmologia
Acertos
0
Erros
3
Sem resposta
2
Exatidão
0.0%
Média
72.6%
Oncologia Médica
Acertos
4
Erros
6
Sem resposta
15
Exatidão
16.0%
Média
86.3%
ORL
Acertos
1
Erros
1
Sem resposta
6
Exatidão
12.5%
Média
73.8%
Pediatria
Acertos
2
Erros
3
Sem resposta
20
Exatidão
8.0%
Média
72.7%
Planeamento e Gestão em Saúde
Acertos
0
Erros
0
Sem resposta
2
Exatidão
0.0%
Média
81.6%
Pneumologia
Acertos
0
Erros
4
Sem resposta
10
Exatidão
0.0%
Média
73.0%
Psiquiatria
Acertos
1
Erros
1
Sem resposta
6
Exatidão
12.5%
Média
82.0%
Radiologia-Urgências
Acertos
0
Erros
3
Sem resposta
11
Exatidão
0.0%
Média
67.9%
Reumatologia
Acertos
1
Erros
4
Sem resposta
9
Exatidão
7.1%
Média
74.6%
Traumatologia
Acertos
2
Erros
4
Sem resposta
12
Exatidão
11.1%
Média
78.2%
Urologia
Acertos
0
Erros
3
Sem resposta
4
Exatidão
0.0%
Média
79.5%

Desagregação por Tipo de Pergunta

Anatomia
Acertos
0
Erros
1
Sem resposta
6
Exatidão
0.0%
Média
77.1%
Bioestatística
Acertos
0
Erros
1
Sem resposta
3
Exatidão
0.0%
Média
78.4%
Diagnóstico
Acertos
7
Erros
17
Sem resposta
65
Exatidão
7.9%
Média
77.9%
Epidemiologia
Acertos
1
Erros
0
Sem resposta
4
Exatidão
20.0%
Média
75.0%
Ética
Acertos
0
Erros
0
Sem resposta
3
Exatidão
0.0%
Média
72.0%
Exames
Acertos
1
Erros
4
Sem resposta
21
Exatidão
3.8%
Média
76.3%
Farmacologia
Acertos
1
Erros
5
Sem resposta
7
Exatidão
7.7%
Média
82.4%
Fisiopatologia
Acertos
2
Erros
6
Sem resposta
19
Exatidão
7.4%
Média
72.6%
Interpretação
Acertos
2
Erros
7
Sem resposta
33
Exatidão
4.8%
Média
69.3%
Legal
Acertos
2
Erros
0
Sem resposta
2
Exatidão
50.0%
Média
63.6%
Prevenção
Acertos
2
Erros
2
Sem resposta
8
Exatidão
16.7%
Média
74.5%
Prognóstico
Acertos
1
Erros
1
Sem resposta
4
Exatidão
16.7%
Média
77.8%
Risco
Acertos
0
Erros
1
Sem resposta
4
Exatidão
0.0%
Média
84.3%
Tratamento
Acertos
6
Erros
20
Sem resposta
56
Exatidão
7.3%
Média
75.2%
#RespostaCorretaEstado
1DB
2DA
3—C
4—B
5—A
6—C
7—C
8AA
9—A
10AD
11—D
12—D
13—B
14—D
15——
16—B
17—B
18—A
19DC
20—A
21—B
22—D
23—C
24—D
25—C
26——Anulada
27—C
28——Anulada
29—D
30DB
31—D
32—A
33—D
34—D
35BB
36—D
37—C
38—C
39—D
40—A
41—D
42—C
43—B
44—D
45BD
46BA
47—A
48AA
49—D
50—B
51—C
52AB
53CD
54—B
55AA
56——Anulada
57—C
58—B
59AD
60AA
61DA
62—D
63—B
64—D
65—A
66—A
67—B
68—B
69—B
70—A
71—D
72AA
73—D
74—C
75—A
76—B
77AB
78—B
79—C
80AC
81—C
82—D
83—B
84—D
85—C
86—C
87—A
88—D
89—B
90—A
91—B
92AC
93DB
94AC
95AA
96—C
97—D
98—C
99—A
100—C
101—B
102—D
103CA
104—C
105—A
106—C
107—B
108—D
109—B
110DC
111DA
112DC
113—B
114—D
115—D
116—C
117—A
118—D
119—C
120—B
121—D
122—C
123—C
124—C
125—D
126AD
127—B
128DD
129—A
130AD
131—D
132—A
133—B
134—C
135DB
136—C
137—A
138—D
139—D
140AB
141AA
142AA
143AB
144—B
145BD
146—C
147AB
148—A
149—A
150—A
151—A
152DA
153DB
154—B
155—B
156CC
157—A
158—C
159AC
160—A
161AA
162C—
163—D
164BC
165—A
166—B
167—C
168—D
169—B
170—B
171BC
172AA
173—A
174—B
175—B
176—C
177—C
178—A
179—D
180AA
181BB
182—C
183AB
184—B
185BB
186——Anulada
187DC
188AD
189—D
190—A
191—B
192BA
193—C
194AA
195—A
196—A
197AB
198BC
199BD
200—C
201—B
202CA
203—D
204—C
205—B
206—D
207DA
208AC
209—C
210AB