MedicalBenchmark
EleutherAI: Llemma 7b provider

Llemma 7b

316

#316 de 319 modelos — MIR 2025

Pontuação líquida

3.33 pts

Exatidão

8.5%

Corretas / Incorretas

17 / 41

Custo total

$0.64

Desempenho Geral

(vs. média)
Exatidão

8.5%

avg: 77.9%

Pontuação líquida

3.33 pts

avg: 143.96 pts

Acertos

17

avg: 156

Erros

41

avg: 35

Custo total

$0.64

avg: $3.36

Tempo médio de resposta

65.0s

avg: 19.0s

Tokens de saída

446K

avg: 430K

Tokens de raciocínio

0

avg: 306K

Confiança média

29.0%

avg: 95.2%

Desagregação por Disciplina

Alergologia
Acertos
0
Erros
1
Sem resposta
3
Exatidão
0.0%
Média
87.9%
Anestesiologia e Reanimação
Acertos
2
Erros
1
Sem resposta
3
Exatidão
33.3%
Média
82.3%
Cardiologia
Acertos
0
Erros
3
Sem resposta
19
Exatidão
0.0%
Média
78.6%
Cuidados Paliativos
Acertos
1
Erros
0
Sem resposta
3
Exatidão
25.0%
Média
78.6%
Dermatologia
Acertos
2
Erros
4
Sem resposta
6
Exatidão
16.7%
Média
69.4%
Doenças Infecciosas
Acertos
5
Erros
4
Sem resposta
18
Exatidão
18.5%
Média
74.9%
Endocrinologia e Nutrição
Acertos
1
Erros
3
Sem resposta
12
Exatidão
6.3%
Média
83.5%
Epidemiologia
Acertos
1
Erros
1
Sem resposta
5
Exatidão
14.3%
Média
69.1%
Estatística
Acertos
0
Erros
1
Sem resposta
2
Exatidão
0.0%
Média
76.6%
Farmacologia
Acertos
2
Erros
5
Sem resposta
10
Exatidão
11.8%
Média
74.1%
Gastrenterologia
Acertos
1
Erros
4
Sem resposta
16
Exatidão
4.8%
Média
74.1%
Genética
Acertos
0
Erros
1
Sem resposta
5
Exatidão
0.0%
Média
69.5%
Geriatria
Acertos
0
Erros
3
Sem resposta
8
Exatidão
0.0%
Média
77.5%
Ginecologia e Obstetrícia
Acertos
1
Erros
4
Sem resposta
14
Exatidão
5.3%
Média
86.7%
Hematologia
Acertos
2
Erros
3
Sem resposta
6
Exatidão
18.2%
Média
82.7%
Imunologia
Acertos
2
Erros
1
Sem resposta
6
Exatidão
22.2%
Média
83.3%
Medicina Legal e Bioética
Acertos
2
Erros
0
Sem resposta
3
Exatidão
40.0%
Média
68.4%
Nefrologia
Acertos
0
Erros
3
Sem resposta
11
Exatidão
0.0%
Média
84.8%
Neurologia
Acertos
0
Erros
4
Sem resposta
16
Exatidão
0.0%
Média
77.3%
Oftalmologia
Acertos
0
Erros
3
Sem resposta
2
Exatidão
0.0%
Média
74.2%
Oncologia Médica
Acertos
4
Erros
6
Sem resposta
15
Exatidão
16.0%
Média
87.2%
ORL
Acertos
1
Erros
1
Sem resposta
6
Exatidão
12.5%
Média
74.8%
Pediatria
Acertos
2
Erros
3
Sem resposta
21
Exatidão
7.7%
Média
71.9%
Planeamento e Gestão em Saúde
Acertos
0
Erros
0
Sem resposta
2
Exatidão
0.0%
Média
82.6%
Pneumologia
Acertos
0
Erros
4
Sem resposta
10
Exatidão
0.0%
Média
80.4%
Psiquiatria
Acertos
1
Erros
1
Sem resposta
6
Exatidão
12.5%
Média
83.0%
Radiologia-Urgências
Acertos
0
Erros
3
Sem resposta
11
Exatidão
0.0%
Média
69.4%
Reumatologia
Acertos
1
Erros
5
Sem resposta
9
Exatidão
6.7%
Média
76.6%
Traumatologia
Acertos
2
Erros
4
Sem resposta
12
Exatidão
11.1%
Média
79.3%
Urologia
Acertos
0
Erros
3
Sem resposta
4
Exatidão
0.0%
Média
80.7%

Desagregação por Tipo de Pergunta

Anatomia
Acertos
0
Erros
1
Sem resposta
6
Exatidão
0.0%
Média
78.6%
Bioestatística
Acertos
0
Erros
1
Sem resposta
3
Exatidão
0.0%
Média
79.8%
Diagnóstico
Acertos
7
Erros
18
Sem resposta
63
Exatidão
8.0%
Média
79.9%
Epidemiologia
Acertos
1
Erros
0
Sem resposta
4
Exatidão
20.0%
Média
76.7%
Ética
Acertos
0
Erros
0
Sem resposta
3
Exatidão
0.0%
Média
74.1%
Exames
Acertos
1
Erros
5
Sem resposta
21
Exatidão
3.7%
Média
77.9%
Farmacologia
Acertos
1
Erros
5
Sem resposta
7
Exatidão
7.7%
Média
83.3%
Fisiopatologia
Acertos
2
Erros
6
Sem resposta
19
Exatidão
7.4%
Média
76.1%
Interpretação
Acertos
2
Erros
7
Sem resposta
33
Exatidão
4.8%
Média
70.7%
Legal
Acertos
2
Erros
0
Sem resposta
2
Exatidão
50.0%
Média
64.6%
Prevenção
Acertos
2
Erros
2
Sem resposta
8
Exatidão
16.7%
Média
75.6%
Prognóstico
Acertos
1
Erros
1
Sem resposta
5
Exatidão
14.3%
Média
80.8%
Risco
Acertos
0
Erros
1
Sem resposta
4
Exatidão
0.0%
Média
85.2%
Tratamento
Acertos
6
Erros
19
Sem resposta
56
Exatidão
7.4%
Média
77.3%
#RespostaCorretaEstado
1DB
2DA
3—C
4—B
5—A
6—C
7—C
8AA
9—A
10AD
11—D
12—D
13—B
14—D
15——Anulada
16—B
17—B
18—A
19DC
20—A
21—B
22—D
23—C
24—D
25—C
26——Anulada
27—C
28A—Anulada
29—D
30DB
31—D
32—A
33—D
34—D
35BB
36—D
37—C
38—C
39—D
40—A
41—D
42—C
43—B
44—D
45BD
46BA
47—A
48AA
49—D
50—B
51—C
52AB
53CD
54—B
55AA
56——Anulada
57—C
58—B
59AD
60AA
61DA
62—D
63—B
64—D
65—A
66—A
67—B
68—B
69—B
70—A
71—D
72AA
73—D
74—C
75—A
76—B
77AB
78—B
79—C
80AC
81—C
82—D
83—B
84—D
85—C
86—C
87—A
88—D
89—B
90—A
91—B
92AC
93DB
94AC
95AA
96—C
97—D
98—C
99—A
100—C
101—B
102—D
103CA
104—C
105—A
106—C
107—B
108—D
109—B
110DC
111DA
112DC
113—B
114—D
115—D
116—C
117—A
118—D
119—C
120—B
121—D
122—C
123—C
124—C
125—D
126AD
127—B
128DD
129—A
130AD
131—D
132—A
133—B
134—C
135DB
136—C
137—A
138—D
139—D
140AB
141AA
142AA
143AB
144—B
145BD
146—C
147AB
148—A
149—A
150—D
151—A
152DA
153DB
154—B
155—B
156CC
157—A
158—C
159AC
160—A
161AA
162C—Anulada
163—D
164BC
165DA
166—B
167—C
168—D
169—B
170—B
171BC
172AA
173—A
174—B
175—B
176—C
177—C
178—A
179—D
180AA
181BB
182—C
183AB
184—B
185BB
186——Anulada
187DC
188AD
189—D
190—A
191—B
192BA
193—C
194AA
195—A
196—A
197AB
198BC
199BD
200—C
201—B
202CA
203—D
204—C
205—B
206—D
207DA
208AC
209—C
210AB