MedicalBenchmark
Meta: Llama 3 8B Instruct provider

Llama 3 8B Instruct

260

#260 de 291 modelosMIR 2024

Pontuação líquida

65.33 pts

Exatidão

46.5%

Corretas / Incorretas

93 / 83

Custo total

$0.01

Desempenho Geral

(vs. média)
Exatidão

46.5%

avg: 80.5%

Pontuação líquida

65.33 pts

avg: 150.85 pts

Acertos

93

avg: 161

Erros

83

avg: 30

Custo total

$0.01

avg: $3.32

Tempo médio de resposta

13.1s

avg: 16.4s

Tokens de saída

100K

avg: 427K

Tokens de raciocínio

0

avg: 310K

Confiança média

84.2%

avg: 95.4%

Desagregação por Disciplina

Alergologia
Acertos
2
Erros
0
Sem resposta
1
Exatidão
66.7%
Média
90.5%
Anestesiologia e Reanimação
Acertos
2
Erros
1
Sem resposta
1
Exatidão
50.0%
Média
87.1%
Cardiologia
Acertos
10
Erros
7
Sem resposta
4
Exatidão
47.6%
Média
79.7%
Cuidados Paliativos
Acertos
1
Erros
3
Sem resposta
0
Exatidão
25.0%
Média
88.2%
Dermatologia
Acertos
3
Erros
7
Sem resposta
4
Exatidão
21.4%
Média
80.2%
Doenças Infecciosas
Acertos
7
Erros
11
Sem resposta
5
Exatidão
30.4%
Média
81.8%
Endocrinologia e Nutrição
Acertos
8
Erros
7
Sem resposta
4
Exatidão
42.1%
Média
84.2%
Epidemiologia
Acertos
5
Erros
3
Sem resposta
0
Exatidão
62.5%
Média
89.3%
Estatística
Acertos
1
Erros
2
Sem resposta
0
Exatidão
33.3%
Média
91.1%
Farmacologia
Acertos
12
Erros
6
Sem resposta
5
Exatidão
52.2%
Média
85.4%
Gastrenterologia
Acertos
9
Erros
10
Sem resposta
3
Exatidão
40.9%
Média
70.5%
Genética
Acertos
5
Erros
0
Sem resposta
2
Exatidão
71.4%
Média
86.5%
Geriatria
Acertos
6
Erros
3
Sem resposta
1
Exatidão
60.0%
Média
86.9%
Ginecologia e Obstetrícia
Acertos
9
Erros
5
Sem resposta
0
Exatidão
64.3%
Média
81.2%
Hematologia
Acertos
7
Erros
4
Sem resposta
2
Exatidão
53.8%
Média
81.5%
Imunologia
Acertos
4
Erros
3
Sem resposta
1
Exatidão
50.0%
Média
89.1%
Medicina Legal e Bioética
Acertos
1
Erros
1
Sem resposta
0
Exatidão
50.0%
Média
91.7%
Nefrologia
Acertos
4
Erros
7
Sem resposta
2
Exatidão
30.8%
Média
80.8%
Neurologia
Acertos
12
Erros
9
Sem resposta
1
Exatidão
54.5%
Média
83.7%
Oftalmologia
Acertos
2
Erros
3
Sem resposta
0
Exatidão
40.0%
Média
80.0%
Oncologia Médica
Acertos
12
Erros
8
Sem resposta
1
Exatidão
57.1%
Média
80.2%
ORL
Acertos
3
Erros
4
Sem resposta
0
Exatidão
42.9%
Média
74.4%
Pediatria
Acertos
8
Erros
7
Sem resposta
2
Exatidão
47.1%
Média
82.0%
Planeamento e Gestão em Saúde
Acertos
1
Erros
0
Sem resposta
1
Exatidão
50.0%
Média
73.2%
Pneumologia
Acertos
11
Erros
7
Sem resposta
1
Exatidão
57.9%
Média
80.6%
Psiquiatria
Acertos
8
Erros
1
Sem resposta
1
Exatidão
80.0%
Média
89.5%
Radiologia-Urgências
Acertos
9
Erros
5
Sem resposta
0
Exatidão
64.3%
Média
64.9%
Reumatologia
Acertos
6
Erros
5
Sem resposta
3
Exatidão
42.9%
Média
81.4%
Traumatologia
Acertos
4
Erros
10
Sem resposta
1
Exatidão
26.7%
Média
74.5%
Urologia
Acertos
2
Erros
4
Sem resposta
0
Exatidão
33.3%
Média
78.2%

Desagregação por Tipo de Pergunta

Anatomia
Acertos
2
Erros
4
Sem resposta
0
Exatidão
33.3%
Média
79.8%
Bioestatística
Acertos
2
Erros
2
Sem resposta
1
Exatidão
40.0%
Média
90.7%
Diagnóstico
Acertos
39
Erros
29
Sem resposta
5
Exatidão
53.4%
Média
79.2%
Epidemiologia
Acertos
6
Erros
5
Sem resposta
1
Exatidão
50.0%
Média
81.2%
Ética
Acertos
0
Erros
1
Sem resposta
0
Exatidão
0.0%
Média
94.5%
Exames
Acertos
12
Erros
7
Sem resposta
2
Exatidão
57.1%
Média
73.9%
Farmacologia
Acertos
10
Erros
8
Sem resposta
7
Exatidão
40.0%
Média
84.0%
Fisiopatologia
Acertos
12
Erros
13
Sem resposta
8
Exatidão
36.4%
Média
85.4%
Interpretação
Acertos
15
Erros
19
Sem resposta
3
Exatidão
40.5%
Média
69.6%
Prevenção
Acertos
6
Erros
4
Sem resposta
2
Exatidão
50.0%
Média
89.8%
Prognóstico
Acertos
7
Erros
0
Sem resposta
0
Exatidão
100.0%
Média
83.9%
Risco
Acertos
8
Erros
2
Sem resposta
3
Exatidão
61.5%
Média
83.6%
Tratamento
Acertos
30
Erros
34
Sem resposta
7
Exatidão
42.3%
Média
81.3%
#RespostaCorretaEstado
1BB
2DD
3BB
4C
5CC
6BB
7DD
8CC
9CA
10DD
11DD
12AA
13C
14DA
15DB
16A
17CC
18AA
19CB
20AC
21CD
22CB
23BA
24BA
25AC
26B
27AC
28A
29AB
30BC
31CD
32CA
33C
34BB
35DD
36BD
37CA
38A
39CC
40BB
41BC
42D
43DA
44AD
45AD
46BB
47CC
48CC
49BB
50C
51AA
52DD
53C
54BB
55CC
56DD
57DA
58CA
59BA
60AA
61BA
62CD
63CD
64BAnulada
65DD
66CC
67CB
68CAnulada
69AA
70BB
71BB
72CD
73DB
74CC
75BB
76BA
77BD
78BC
79CB
80AA
81CC
82CC
83BB
84CC
85A
86AA
87CB
88DD
89BB
90AA
91DD
92DA
93C
94BB
95CD
96BB
97AB
98CB
99AA
100DB
101DA
102DD
103BB
104CD
105DB
106CC
107C
108BB
109AD
110DD
111B
112BC
113AAnulada
114DD
115D
116A
117DD
118DD
119CA
120CC
121AA
122BB
123CD
124DD
125CB
126AD
127AA
128CB
129DD
130C
131BC
132DD
133AA
134CC
135BA
136CD
137CA
138CC
139AA
140BC
141BB
142DC
143CA
144CD
145DC
146BC
147CC
148AA
149CC
150DD
151AA
152AA
153BC
154BB
155DD
156BC
157AC
158DD
159DD
160AB
161BB
162BB
163BB
164AB
165CA
166DC
167DA
168B
169AC
170CA
171D
172BB
173A
174BB
175AA
176BC
177AC
178BB
179CC
180BAnulada
181BB
182BD
183BC
184BA
185CC
186DD
187BA
188C
189AD
190DD
191BB
192B
193DC
194DC
195AC
196BB
197CA
198BB
199CD
200BA
201B
202DD
203BB
204D
205BD
206CAnulada
207AA
208CA
209BB
210CD