MedicalBenchmark
Meta: Llama 3.1 8B Instruct provider

Llama 3.1 8B Instruct

275

#275 de 291 modelosMIR 2024

Pontuação líquida

44.00 pts

Exatidão

37.0%

Corretas / Incorretas

74 / 90

Custo total

$0.02

Desempenho Geral

(vs. média)
Exatidão

37.0%

avg: 80.5%

Pontuação líquida

44.00 pts

avg: 150.85 pts

Acertos

74

avg: 161

Erros

90

avg: 30

Custo total

$0.02

avg: $3.32

Tempo médio de resposta

20.8s

avg: 16.4s

Tokens de saída

258K

avg: 427K

Tokens de raciocínio

0

avg: 310K

Confiança média

81.6%

avg: 95.4%

Desagregação por Disciplina

Alergologia
Acertos
3
Erros
0
Sem resposta
0
Exatidão
100.0%
Média
90.5%
Anestesiologia e Reanimação
Acertos
4
Erros
0
Sem resposta
0
Exatidão
100.0%
Média
87.1%
Cardiologia
Acertos
9
Erros
8
Sem resposta
4
Exatidão
42.9%
Média
79.7%
Cuidados Paliativos
Acertos
2
Erros
1
Sem resposta
1
Exatidão
50.0%
Média
88.2%
Dermatologia
Acertos
8
Erros
6
Sem resposta
0
Exatidão
57.1%
Média
80.2%
Doenças Infecciosas
Acertos
11
Erros
7
Sem resposta
5
Exatidão
47.8%
Média
81.8%
Endocrinologia e Nutrição
Acertos
4
Erros
7
Sem resposta
8
Exatidão
21.1%
Média
84.2%
Epidemiologia
Acertos
5
Erros
3
Sem resposta
0
Exatidão
62.5%
Média
89.3%
Estatística
Acertos
1
Erros
2
Sem resposta
0
Exatidão
33.3%
Média
91.1%
Farmacologia
Acertos
11
Erros
8
Sem resposta
4
Exatidão
47.8%
Média
85.4%
Gastrenterologia
Acertos
10
Erros
10
Sem resposta
2
Exatidão
45.5%
Média
70.5%
Genética
Acertos
3
Erros
4
Sem resposta
0
Exatidão
42.9%
Média
86.5%
Geriatria
Acertos
3
Erros
3
Sem resposta
4
Exatidão
30.0%
Média
86.9%
Ginecologia e Obstetrícia
Acertos
4
Erros
8
Sem resposta
2
Exatidão
28.6%
Média
81.2%
Hematologia
Acertos
3
Erros
6
Sem resposta
4
Exatidão
23.1%
Média
81.5%
Imunologia
Acertos
4
Erros
3
Sem resposta
1
Exatidão
50.0%
Média
89.1%
Medicina Legal e Bioética
Acertos
1
Erros
1
Sem resposta
0
Exatidão
50.0%
Média
91.7%
Nefrologia
Acertos
2
Erros
9
Sem resposta
2
Exatidão
15.4%
Média
80.8%
Neurologia
Acertos
6
Erros
10
Sem resposta
6
Exatidão
27.3%
Média
83.7%
Oftalmologia
Acertos
1
Erros
3
Sem resposta
1
Exatidão
20.0%
Média
80.0%
Oncologia Médica
Acertos
6
Erros
13
Sem resposta
2
Exatidão
28.6%
Média
80.2%
ORL
Acertos
3
Erros
4
Sem resposta
0
Exatidão
42.9%
Média
74.4%
Pediatria
Acertos
1
Erros
11
Sem resposta
5
Exatidão
5.9%
Média
82.0%
Planeamento e Gestão em Saúde
Acertos
0
Erros
1
Sem resposta
1
Exatidão
0.0%
Média
73.2%
Pneumologia
Acertos
8
Erros
5
Sem resposta
6
Exatidão
42.1%
Média
80.6%
Psiquiatria
Acertos
7
Erros
1
Sem resposta
2
Exatidão
70.0%
Média
89.5%
Radiologia-Urgências
Acertos
6
Erros
7
Sem resposta
1
Exatidão
42.9%
Média
64.9%
Reumatologia
Acertos
8
Erros
6
Sem resposta
0
Exatidão
57.1%
Média
81.4%
Traumatologia
Acertos
1
Erros
11
Sem resposta
3
Exatidão
6.7%
Média
74.5%
Urologia
Acertos
1
Erros
4
Sem resposta
1
Exatidão
16.7%
Média
78.2%

Desagregação por Tipo de Pergunta

Anatomia
Acertos
2
Erros
4
Sem resposta
0
Exatidão
33.3%
Média
79.8%
Bioestatística
Acertos
2
Erros
2
Sem resposta
1
Exatidão
40.0%
Média
90.7%
Diagnóstico
Acertos
26
Erros
30
Sem resposta
17
Exatidão
35.6%
Média
79.2%
Epidemiologia
Acertos
4
Erros
6
Sem resposta
2
Exatidão
33.3%
Média
81.2%
Ética
Acertos
1
Erros
0
Sem resposta
0
Exatidão
100.0%
Média
94.5%
Exames
Acertos
8
Erros
10
Sem resposta
3
Exatidão
38.1%
Média
73.9%
Farmacologia
Acertos
12
Erros
9
Sem resposta
4
Exatidão
48.0%
Média
84.0%
Fisiopatologia
Acertos
13
Erros
16
Sem resposta
4
Exatidão
39.4%
Média
85.4%
Interpretação
Acertos
10
Erros
18
Sem resposta
9
Exatidão
27.0%
Média
69.6%
Prevenção
Acertos
6
Erros
2
Sem resposta
4
Exatidão
50.0%
Média
89.8%
Prognóstico
Acertos
5
Erros
2
Sem resposta
0
Exatidão
71.4%
Média
83.9%
Risco
Acertos
8
Erros
4
Sem resposta
1
Exatidão
61.5%
Média
83.6%
Tratamento
Acertos
22
Erros
36
Sem resposta
13
Exatidão
31.0%
Média
81.3%
#RespostaCorretaEstado
1BB
2CD
3BB
4CC
5DC
6B
7DD
8C
9CA
10D
11DD
12A
13DC
14DA
15BB
16DA
17CC
18A
19DB
20C
21CD
22B
23AA
24CA
25CC
26BB
27AC
28BA
29DB
30CC
31DD
32CA
33AC
34CB
35DD
36AD
37AA
38BA
39CC
40CB
41BC
42DD
43CA
44AD
45AD
46BB
47CC
48CC
49BB
50C
51AA
52AD
53CC
54BB
55CC
56DD
57BA
58CA
59BA
60DA
61CA
62AD
63CD
64BAnulada
65D
66CC
67CB
68BAnulada
69AA
70BB
71CB
72BD
73BB
74C
75B
76DA
77D
78C
79CB
80CA
81BC
82BC
83BB
84CC
85AA
86AA
87B
88DD
89BB
90AA
91CD
92BA
93BC
94BB
95BD
96BB
97BB
98CB
99A
100AB
101BA
102DD
103B
104CD
105DB
106BC
107BC
108BB
109DD
110DD
111AB
112CC
113Anulada
114DD
115AD
116CA
117DD
118D
119CA
120CC
121AA
122B
123CD
124DD
125CB
126DD
127DA
128B
129BD
130C
131CC
132CD
133AA
134BC
135DA
136DD
137DA
138CC
139BA
140CC
141BB
142DC
143A
144CD
145DC
146BC
147CC
148BA
149CC
150DD
151CA
152A
153DC
154B
155BD
156BC
157DC
158BD
159DD
160CB
161B
162B
163DB
164AB
165A
166C
167CA
168CB
169CC
170CA
171DD
172BB
173BA
174BB
175A
176CC
177C
178AB
179CC
180AAnulada
181B
182DD
183C
184AA
185AC
186BD
187A
188C
189BD
190D
191BB
192B
193C
194DC
195CC
196DB
197DA
198BB
199CD
200DA
201BB
202DD
203CB
204DD
205BD
206BAnulada
207AA
208A
209B
210DD