MedicalBenchmark
Sao10K: Llama 3.1 70B Hanami x1 provider

Llama 3.1 70B Hanami x1

215

#215 de 291 modelosMIR 2024

Pontuação líquida

143.66 pts

Exatidão

77.5%

Corretas / Incorretas

155 / 34

Custo total

$0.63

Desempenho Geral

(vs. média)
Exatidão

77.5%

avg: 80.5%

Pontuação líquida

143.66 pts

avg: 150.85 pts

Acertos

155

avg: 161

Erros

34

avg: 30

Custo total

$0.63

avg: $3.32

Tempo médio de resposta

31.4s

avg: 16.4s

Tokens de saída

107K

avg: 427K

Tokens de raciocínio

0

avg: 310K

Confiança média

93.3%

avg: 95.4%

Desagregação por Disciplina

Alergologia
Acertos
2
Erros
1
Sem resposta
0
Exatidão
66.7%
Média
90.5%
Anestesiologia e Reanimação
Acertos
4
Erros
0
Sem resposta
0
Exatidão
100.0%
Média
87.1%
Cardiologia
Acertos
19
Erros
2
Sem resposta
0
Exatidão
90.5%
Média
79.7%
Cuidados Paliativos
Acertos
4
Erros
0
Sem resposta
0
Exatidão
100.0%
Média
88.2%
Dermatologia
Acertos
10
Erros
3
Sem resposta
1
Exatidão
71.4%
Média
80.2%
Doenças Infecciosas
Acertos
18
Erros
4
Sem resposta
1
Exatidão
78.3%
Média
81.8%
Endocrinologia e Nutrição
Acertos
14
Erros
4
Sem resposta
1
Exatidão
73.7%
Média
84.2%
Epidemiologia
Acertos
7
Erros
0
Sem resposta
1
Exatidão
87.5%
Média
89.3%
Estatística
Acertos
3
Erros
0
Sem resposta
0
Exatidão
100.0%
Média
91.1%
Farmacologia
Acertos
21
Erros
2
Sem resposta
0
Exatidão
91.3%
Média
85.4%
Gastrenterologia
Acertos
14
Erros
7
Sem resposta
1
Exatidão
63.6%
Média
70.5%
Genética
Acertos
6
Erros
0
Sem resposta
1
Exatidão
85.7%
Média
86.5%
Geriatria
Acertos
8
Erros
2
Sem resposta
0
Exatidão
80.0%
Média
86.9%
Ginecologia e Obstetrícia
Acertos
10
Erros
2
Sem resposta
2
Exatidão
71.4%
Média
81.2%
Hematologia
Acertos
12
Erros
1
Sem resposta
0
Exatidão
92.3%
Média
81.5%
Imunologia
Acertos
7
Erros
0
Sem resposta
1
Exatidão
87.5%
Média
89.1%
Medicina Legal e Bioética
Acertos
1
Erros
1
Sem resposta
0
Exatidão
50.0%
Média
91.7%
Nefrologia
Acertos
13
Erros
0
Sem resposta
0
Exatidão
100.0%
Média
80.8%
Neurologia
Acertos
17
Erros
4
Sem resposta
1
Exatidão
77.3%
Média
83.7%
Oftalmologia
Acertos
3
Erros
2
Sem resposta
0
Exatidão
60.0%
Média
80.0%
Oncologia Médica
Acertos
16
Erros
2
Sem resposta
3
Exatidão
76.2%
Média
80.2%
ORL
Acertos
3
Erros
3
Sem resposta
1
Exatidão
42.9%
Média
74.4%
Pediatria
Acertos
12
Erros
5
Sem resposta
0
Exatidão
70.6%
Média
82.0%
Planeamento e Gestão em Saúde
Acertos
1
Erros
0
Sem resposta
1
Exatidão
50.0%
Média
73.2%
Pneumologia
Acertos
18
Erros
1
Sem resposta
0
Exatidão
94.7%
Média
80.6%
Psiquiatria
Acertos
10
Erros
0
Sem resposta
0
Exatidão
100.0%
Média
89.5%
Radiologia-Urgências
Acertos
6
Erros
5
Sem resposta
3
Exatidão
42.9%
Média
64.9%
Reumatologia
Acertos
11
Erros
1
Sem resposta
2
Exatidão
78.6%
Média
81.4%
Traumatologia
Acertos
8
Erros
4
Sem resposta
3
Exatidão
53.3%
Média
74.5%
Urologia
Acertos
5
Erros
1
Sem resposta
0
Exatidão
83.3%
Média
78.2%

Desagregação por Tipo de Pergunta

Anatomia
Acertos
5
Erros
1
Sem resposta
0
Exatidão
83.3%
Média
79.8%
Bioestatística
Acertos
5
Erros
0
Sem resposta
0
Exatidão
100.0%
Média
90.7%
Diagnóstico
Acertos
52
Erros
16
Sem resposta
5
Exatidão
71.2%
Média
79.2%
Epidemiologia
Acertos
10
Erros
1
Sem resposta
1
Exatidão
83.3%
Média
81.2%
Ética
Acertos
1
Erros
0
Sem resposta
0
Exatidão
100.0%
Média
94.5%
Exames
Acertos
15
Erros
5
Sem resposta
1
Exatidão
71.4%
Média
73.9%
Farmacologia
Acertos
23
Erros
2
Sem resposta
0
Exatidão
92.0%
Média
84.0%
Fisiopatologia
Acertos
27
Erros
4
Sem resposta
2
Exatidão
81.8%
Média
85.4%
Interpretação
Acertos
21
Erros
11
Sem resposta
5
Exatidão
56.8%
Média
69.6%
Prevenção
Acertos
10
Erros
1
Sem resposta
1
Exatidão
83.3%
Média
89.8%
Prognóstico
Acertos
7
Erros
0
Sem resposta
0
Exatidão
100.0%
Média
83.9%
Risco
Acertos
11
Erros
2
Sem resposta
0
Exatidão
84.6%
Média
83.6%
Tratamento
Acertos
57
Erros
12
Sem resposta
2
Exatidão
80.3%
Média
81.3%
#RespostaCorretaEstado
1BB
2D
3DB
4CC
5C
6DB
7DD
8C
9BA
10DD
11AD
12AA
13DC
14BA
15AB
16BA
17CC
18AA
19BB
20AC
21DD
22B
23AA
24A
25CC
26BB
27DC
28AA
29BB
30CC
31DD
32AA
33CC
34BB
35DD
36DD
37AA
38A
39CC
40BB
41CC
42AD
43AA
44DD
45DD
46BB
47CC
48CC
49BB
50CC
51AA
52DD
53CC
54BB
55CC
56DD
57CA
58AA
59CA
60AA
61CA
62BD
63CD
64DAnulada
65BD
66CC
67BB
68DAnulada
69A
70BB
71AB
72DD
73CB
74CC
75BB
76AA
77CD
78AC
79BB
80AA
81CC
82CC
83BB
84CC
85AA
86AA
87BB
88DD
89BB
90AA
91DD
92AA
93BC
94BB
95DD
96BB
97BB
98DB
99AA
100B
101AA
102DD
103BB
104DD
105CB
106CC
107CC
108BB
109DD
110DD
111BB
112CC
113DAnulada
114DD
115DD
116AA
117DD
118DD
119AA
120CC
121AA
122BB
123DD
124DD
125AB
126DD
127AA
128BB
129DD
130CC
131AC
132CD
133AA
134C
135AA
136DD
137AA
138CC
139AA
140CC
141BB
142CC
143AA
144DD
145CC
146BC
147CC
148AA
149CC
150DD
151AA
152AA
153AC
154BB
155DD
156CC
157CC
158DD
159DD
160CB
161BB
162BB
163BB
164BB
165BA
166CC
167AA
168BB
169CC
170CA
171DD
172BB
173AA
174BB
175AA
176CC
177CC
178BB
179CC
180DAnulada
181BB
182DD
183CC
184AA
185CC
186BD
187AA
188CC
189DD
190DD
191B
192BB
193CC
194CC
195CC
196BB
197AA
198BB
199CD
200AA
201BB
202DD
203BB
204D
205D
206BAnulada
207AA
208AA
209DB
210AD