MedicalBenchmark
Meta: Llama 3 8B Instruct provider

Llama 3 8B Instruct

288

#288 de 320 modelos — MIR 2024

Pontuação líquida

65.33 pts

Exatidão

46.5%

Corretas / Incorretas

93 / 83

Custo total

$0.01

Desempenho Geral

(vs. média)
Exatidão

46.5%

avg: 81.3%

Pontuação líquida

65.33 pts

avg: 153.08 pts

Acertos

93

avg: 163

Erros

83

avg: 29

Custo total

$0.01

avg: $3.09

Tempo médio de resposta

13.1s

avg: 17.7s

Tokens de saída

100K

avg: 414K

Tokens de raciocínio

0

avg: 296K

Confiança média

84.2%

avg: 95.7%

Desagregação por Disciplina

Alergologia
Acertos
2
Erros
0
Sem resposta
1
Exatidão
66.7%
Média
90.8%
Anestesiologia e Reanimação
Acertos
2
Erros
1
Sem resposta
1
Exatidão
50.0%
Média
87.7%
Cardiologia
Acertos
10
Erros
7
Sem resposta
4
Exatidão
47.6%
Média
80.4%
Cuidados Paliativos
Acertos
1
Erros
3
Sem resposta
0
Exatidão
25.0%
Média
88.6%
Dermatologia
Acertos
3
Erros
7
Sem resposta
4
Exatidão
21.4%
Média
81.0%
Doenças Infecciosas
Acertos
7
Erros
11
Sem resposta
5
Exatidão
30.4%
Média
82.5%
Endocrinologia e Nutrição
Acertos
8
Erros
7
Sem resposta
4
Exatidão
42.1%
Média
85.1%
Epidemiologia
Acertos
5
Erros
3
Sem resposta
0
Exatidão
62.5%
Média
89.7%
Estatística
Acertos
1
Erros
2
Sem resposta
0
Exatidão
33.3%
Média
91.6%
Farmacologia
Acertos
12
Erros
6
Sem resposta
5
Exatidão
52.2%
Média
85.8%
Gastrenterologia
Acertos
9
Erros
10
Sem resposta
3
Exatidão
40.9%
Média
71.5%
Genética
Acertos
5
Erros
0
Sem resposta
2
Exatidão
71.4%
Média
87.1%
Geriatria
Acertos
6
Erros
3
Sem resposta
1
Exatidão
60.0%
Média
87.7%
Ginecologia e Obstetrícia
Acertos
9
Erros
5
Sem resposta
0
Exatidão
64.3%
Média
82.0%
Hematologia
Acertos
7
Erros
4
Sem resposta
2
Exatidão
53.8%
Média
82.4%
Imunologia
Acertos
4
Erros
3
Sem resposta
1
Exatidão
50.0%
Média
89.7%
Medicina Legal e Bioética
Acertos
1
Erros
1
Sem resposta
0
Exatidão
50.0%
Média
91.8%
Nefrologia
Acertos
4
Erros
7
Sem resposta
2
Exatidão
30.8%
Média
81.8%
Neurologia
Acertos
12
Erros
9
Sem resposta
1
Exatidão
54.5%
Média
84.5%
Oftalmologia
Acertos
2
Erros
3
Sem resposta
0
Exatidão
40.0%
Média
81.3%
Oncologia Médica
Acertos
12
Erros
8
Sem resposta
1
Exatidão
57.1%
Média
80.9%
ORL
Acertos
3
Erros
4
Sem resposta
0
Exatidão
42.9%
Média
75.1%
Pediatria
Acertos
8
Erros
7
Sem resposta
2
Exatidão
47.1%
Média
82.9%
Planeamento e Gestão em Saúde
Acertos
1
Erros
0
Sem resposta
1
Exatidão
50.0%
Média
75.1%
Pneumologia
Acertos
11
Erros
7
Sem resposta
1
Exatidão
57.9%
Média
81.6%
Psiquiatria
Acertos
8
Erros
1
Sem resposta
1
Exatidão
80.0%
Média
90.0%
Radiologia-Urgências
Acertos
9
Erros
5
Sem resposta
0
Exatidão
64.3%
Média
66.0%
Reumatologia
Acertos
6
Erros
5
Sem resposta
3
Exatidão
42.9%
Média
82.4%
Traumatologia
Acertos
4
Erros
10
Sem resposta
1
Exatidão
26.7%
Média
75.4%
Urologia
Acertos
2
Erros
4
Sem resposta
0
Exatidão
33.3%
Média
79.0%

Desagregação por Tipo de Pergunta

Anatomia
Acertos
2
Erros
4
Sem resposta
0
Exatidão
33.3%
Média
81.1%
Bioestatística
Acertos
2
Erros
2
Sem resposta
1
Exatidão
40.0%
Média
91.3%
Diagnóstico
Acertos
39
Erros
29
Sem resposta
5
Exatidão
53.4%
Média
80.0%
Epidemiologia
Acertos
6
Erros
5
Sem resposta
1
Exatidão
50.0%
Média
82.1%
Ética
Acertos
0
Erros
1
Sem resposta
0
Exatidão
0.0%
Média
94.0%
Exames
Acertos
12
Erros
7
Sem resposta
2
Exatidão
57.1%
Média
75.0%
Farmacologia
Acertos
10
Erros
8
Sem resposta
7
Exatidão
40.0%
Média
84.7%
Fisiopatologia
Acertos
12
Erros
13
Sem resposta
8
Exatidão
36.4%
Média
86.1%
Interpretação
Acertos
15
Erros
19
Sem resposta
3
Exatidão
40.5%
Média
70.5%
Prevenção
Acertos
6
Erros
4
Sem resposta
2
Exatidão
50.0%
Média
90.3%
Prognóstico
Acertos
7
Erros
0
Sem resposta
0
Exatidão
100.0%
Média
84.6%
Risco
Acertos
8
Erros
2
Sem resposta
3
Exatidão
61.5%
Média
84.5%
Tratamento
Acertos
30
Erros
34
Sem resposta
7
Exatidão
42.3%
Média
82.1%
#RespostaCorretaEstado
1BB
2DD
3BB
4—C
5CC
6BB
7DD
8CC
9CA
10DD
11DD
12AA
13—C
14DA
15DB
16—A
17CC
18AA
19CB
20AC
21CD
22CB
23BA
24BA
25AC
26—B
27AC
28—A
29AB
30BC
31CD
32CA
33—C
34BB
35DD
36BD
37CA
38—A
39CC
40BB
41BC
42—D
43DA
44AD
45AD
46BB
47CC
48CC
49BB
50—C
51AA
52DD
53—C
54BB
55CC
56DD
57DA
58CA
59BA
60AA
61BA
62CD
63CD
64B—Anulada
65DD
66CC
67CB
68C—Anulada
69AA
70BB
71BB
72CD
73DB
74CC
75BB
76BA
77BD
78BC
79CB
80AA
81CC
82CC
83BB
84CC
85—A
86AA
87CB
88DD
89BB
90AA
91DD
92DA
93—C
94BB
95CD
96BB
97AB
98CB
99AA
100DB
101DA
102DD
103BB
104CD
105DB
106CC
107—C
108BB
109AD
110DD
111—B
112BC
113A—Anulada
114DD
115—D
116—A
117DD
118DD
119CA
120CC
121AA
122BB
123CD
124DD
125CB
126AD
127AA
128CB
129DD
130—C
131BC
132DD
133AA
134CC
135BA
136CD
137CA
138CC
139AA
140BC
141BB
142DC
143CA
144CD
145DC
146BC
147CC
148AA
149CC
150DD
151AA
152AA
153BC
154BB
155DD
156BC
157AC
158DD
159DD
160AB
161BB
162BB
163BB
164AB
165CA
166DC
167DA
168—B
169AC
170CA
171—D
172BB
173—A
174BB
175AA
176BC
177AC
178BB
179CC
180B—Anulada
181BB
182BD
183BC
184BA
185CC
186DD
187BA
188—C
189AD
190DD
191BB
192—B
193DC
194DC
195AC
196BB
197CA
198BB
199CD
200BA
201—B
202DD
203BB
204—D
205BD
206C—Anulada
207AA
208CA
209BB
210CD