MedicalBenchmark
Meta: Llama 3 8B Instruct provider

Llama 3 8B Instruct

288

#288 de 320 modelosMIR 2024

Pontuação líquida

65.33 pts

Exatidão

46.5%

Corretas / Incorretas

93 / 83

Custo total

$0.01

Desempenho Geral

(vs. média)
Exatidão

46.5%

avg: 81.3%

Pontuação líquida

65.33 pts

avg: 153.08 pts

Acertos

93

avg: 163

Erros

83

avg: 29

Custo total

$0.01

avg: $3.09

Tempo médio de resposta

13.1s

avg: 17.7s

Tokens de saída

100K

avg: 414K

Tokens de raciocínio

0

avg: 296K

Confiança média

84.2%

avg: 95.7%

Desagregação por Disciplina

Alergologia
Acertos
2
Erros
0
Sem resposta
1
Exatidão
66.7%
Média
90.8%
Anestesiologia e Reanimação
Acertos
2
Erros
1
Sem resposta
1
Exatidão
50.0%
Média
87.7%
Cardiologia
Acertos
10
Erros
7
Sem resposta
4
Exatidão
47.6%
Média
80.4%
Cuidados Paliativos
Acertos
1
Erros
3
Sem resposta
0
Exatidão
25.0%
Média
88.6%
Dermatologia
Acertos
3
Erros
7
Sem resposta
4
Exatidão
21.4%
Média
81.0%
Doenças Infecciosas
Acertos
7
Erros
11
Sem resposta
5
Exatidão
30.4%
Média
82.5%
Endocrinologia e Nutrição
Acertos
8
Erros
7
Sem resposta
4
Exatidão
42.1%
Média
85.1%
Epidemiologia
Acertos
5
Erros
3
Sem resposta
0
Exatidão
62.5%
Média
89.7%
Estatística
Acertos
1
Erros
2
Sem resposta
0
Exatidão
33.3%
Média
91.6%
Farmacologia
Acertos
12
Erros
6
Sem resposta
5
Exatidão
52.2%
Média
85.8%
Gastrenterologia
Acertos
9
Erros
10
Sem resposta
3
Exatidão
40.9%
Média
71.5%
Genética
Acertos
5
Erros
0
Sem resposta
2
Exatidão
71.4%
Média
87.1%
Geriatria
Acertos
6
Erros
3
Sem resposta
1
Exatidão
60.0%
Média
87.7%
Ginecologia e Obstetrícia
Acertos
9
Erros
5
Sem resposta
0
Exatidão
64.3%
Média
82.0%
Hematologia
Acertos
7
Erros
4
Sem resposta
2
Exatidão
53.8%
Média
82.4%
Imunologia
Acertos
4
Erros
3
Sem resposta
1
Exatidão
50.0%
Média
89.7%
Medicina Legal e Bioética
Acertos
1
Erros
1
Sem resposta
0
Exatidão
50.0%
Média
91.8%
Nefrologia
Acertos
4
Erros
7
Sem resposta
2
Exatidão
30.8%
Média
81.8%
Neurologia
Acertos
12
Erros
9
Sem resposta
1
Exatidão
54.5%
Média
84.5%
Oftalmologia
Acertos
2
Erros
3
Sem resposta
0
Exatidão
40.0%
Média
81.3%
Oncologia Médica
Acertos
12
Erros
8
Sem resposta
1
Exatidão
57.1%
Média
80.9%
ORL
Acertos
3
Erros
4
Sem resposta
0
Exatidão
42.9%
Média
75.1%
Pediatria
Acertos
8
Erros
7
Sem resposta
2
Exatidão
47.1%
Média
82.9%
Planeamento e Gestão em Saúde
Acertos
1
Erros
0
Sem resposta
1
Exatidão
50.0%
Média
75.1%
Pneumologia
Acertos
11
Erros
7
Sem resposta
1
Exatidão
57.9%
Média
81.6%
Psiquiatria
Acertos
8
Erros
1
Sem resposta
1
Exatidão
80.0%
Média
90.0%
Radiologia-Urgências
Acertos
9
Erros
5
Sem resposta
0
Exatidão
64.3%
Média
66.0%
Reumatologia
Acertos
6
Erros
5
Sem resposta
3
Exatidão
42.9%
Média
82.4%
Traumatologia
Acertos
4
Erros
10
Sem resposta
1
Exatidão
26.7%
Média
75.4%
Urologia
Acertos
2
Erros
4
Sem resposta
0
Exatidão
33.3%
Média
79.0%

Desagregação por Tipo de Pergunta

Anatomia
Acertos
2
Erros
4
Sem resposta
0
Exatidão
33.3%
Média
81.1%
Bioestatística
Acertos
2
Erros
2
Sem resposta
1
Exatidão
40.0%
Média
91.3%
Diagnóstico
Acertos
39
Erros
29
Sem resposta
5
Exatidão
53.4%
Média
80.0%
Epidemiologia
Acertos
6
Erros
5
Sem resposta
1
Exatidão
50.0%
Média
82.1%
Ética
Acertos
0
Erros
1
Sem resposta
0
Exatidão
0.0%
Média
94.0%
Exames
Acertos
12
Erros
7
Sem resposta
2
Exatidão
57.1%
Média
75.0%
Farmacologia
Acertos
10
Erros
8
Sem resposta
7
Exatidão
40.0%
Média
84.7%
Fisiopatologia
Acertos
12
Erros
13
Sem resposta
8
Exatidão
36.4%
Média
86.1%
Interpretação
Acertos
15
Erros
19
Sem resposta
3
Exatidão
40.5%
Média
70.5%
Prevenção
Acertos
6
Erros
4
Sem resposta
2
Exatidão
50.0%
Média
90.3%
Prognóstico
Acertos
7
Erros
0
Sem resposta
0
Exatidão
100.0%
Média
84.6%
Risco
Acertos
8
Erros
2
Sem resposta
3
Exatidão
61.5%
Média
84.5%
Tratamento
Acertos
30
Erros
34
Sem resposta
7
Exatidão
42.3%
Média
82.1%
#RespostaCorretaEstado
1BB
2DD
3BB
4C
5CC
6BB
7DD
8CC
9CA
10DD
11DD
12AA
13C
14DA
15DB
16A
17CC
18AA
19CB
20AC
21CD
22CB
23BA
24BA
25AC
26B
27AC
28A
29AB
30BC
31CD
32CA
33C
34BB
35DD
36BD
37CA
38A
39CC
40BB
41BC
42D
43DA
44AD
45AD
46BB
47CC
48CC
49BB
50C
51AA
52DD
53C
54BB
55CC
56DD
57DA
58CA
59BA
60AA
61BA
62CD
63CD
64BAnulada
65DD
66CC
67CB
68CAnulada
69AA
70BB
71BB
72CD
73DB
74CC
75BB
76BA
77BD
78BC
79CB
80AA
81CC
82CC
83BB
84CC
85A
86AA
87CB
88DD
89BB
90AA
91DD
92DA
93C
94BB
95CD
96BB
97AB
98CB
99AA
100DB
101DA
102DD
103BB
104CD
105DB
106CC
107C
108BB
109AD
110DD
111B
112BC
113AAnulada
114DD
115D
116A
117DD
118DD
119CA
120CC
121AA
122BB
123CD
124DD
125CB
126AD
127AA
128CB
129DD
130C
131BC
132DD
133AA
134CC
135BA
136CD
137CA
138CC
139AA
140BC
141BB
142DC
143CA
144CD
145DC
146BC
147CC
148AA
149CC
150DD
151AA
152AA
153BC
154BB
155DD
156BC
157AC
158DD
159DD
160AB
161BB
162BB
163BB
164AB
165CA
166DC
167DA
168B
169AC
170CA
171D
172BB
173A
174BB
175AA
176BC
177AC
178BB
179CC
180BAnulada
181BB
182BD
183BC
184BA
185CC
186DD
187BA
188C
189AD
190DD
191BB
192B
193DC
194DC
195AC
196BB
197CA
198BB
199CD
200BA
201B
202DD
203BB
204D
205BD
206CAnulada
207AA
208CA
209BB
210CD