MedicalBenchmark
Mistral: Mistral 7B Instruct v0.3 provider

Mistral 7B Instruct v0.3

270

#270 de 291 modelosMIR 2024

Pontuação líquida

52.66 pts

Exatidão

43.5%

Corretas / Incorretas

87 / 103

Custo total

$0.04

Desempenho Geral

(vs. média)
Exatidão

43.5%

avg: 80.5%

Pontuação líquida

52.66 pts

avg: 150.85 pts

Acertos

87

avg: 161

Erros

103

avg: 30

Custo total

$0.04

avg: $3.32

Tempo médio de resposta

1.9s

avg: 16.4s

Tokens de saída

71K

avg: 427K

Tokens de raciocínio

0

avg: 310K

Confiança média

92.3%

avg: 95.4%

Desagregação por Disciplina

Alergologia
Acertos
2
Erros
1
Sem resposta
0
Exatidão
66.7%
Média
90.5%
Anestesiologia e Reanimação
Acertos
1
Erros
3
Sem resposta
0
Exatidão
25.0%
Média
87.1%
Cardiologia
Acertos
13
Erros
8
Sem resposta
0
Exatidão
61.9%
Média
79.7%
Cuidados Paliativos
Acertos
2
Erros
2
Sem resposta
0
Exatidão
50.0%
Média
88.2%
Dermatologia
Acertos
7
Erros
5
Sem resposta
2
Exatidão
50.0%
Média
80.2%
Doenças Infecciosas
Acertos
11
Erros
11
Sem resposta
1
Exatidão
47.8%
Média
81.8%
Endocrinologia e Nutrição
Acertos
8
Erros
11
Sem resposta
0
Exatidão
42.1%
Média
84.2%
Epidemiologia
Acertos
6
Erros
1
Sem resposta
1
Exatidão
75.0%
Média
89.3%
Estatística
Acertos
2
Erros
1
Sem resposta
0
Exatidão
66.7%
Média
91.1%
Farmacologia
Acertos
12
Erros
11
Sem resposta
0
Exatidão
52.2%
Média
85.4%
Gastrenterologia
Acertos
9
Erros
11
Sem resposta
2
Exatidão
40.9%
Média
70.5%
Genética
Acertos
2
Erros
4
Sem resposta
1
Exatidão
28.6%
Média
86.5%
Geriatria
Acertos
4
Erros
5
Sem resposta
1
Exatidão
40.0%
Média
86.9%
Ginecologia e Obstetrícia
Acertos
6
Erros
8
Sem resposta
0
Exatidão
42.9%
Média
81.2%
Hematologia
Acertos
3
Erros
7
Sem resposta
3
Exatidão
23.1%
Média
81.5%
Imunologia
Acertos
5
Erros
3
Sem resposta
0
Exatidão
62.5%
Média
89.1%
Medicina Legal e Bioética
Acertos
1
Erros
1
Sem resposta
0
Exatidão
50.0%
Média
91.7%
Nefrologia
Acertos
3
Erros
9
Sem resposta
1
Exatidão
23.1%
Média
80.8%
Neurologia
Acertos
11
Erros
9
Sem resposta
2
Exatidão
50.0%
Média
83.7%
Oftalmologia
Acertos
2
Erros
2
Sem resposta
1
Exatidão
40.0%
Média
80.0%
Oncologia Médica
Acertos
14
Erros
6
Sem resposta
1
Exatidão
66.7%
Média
80.2%
ORL
Acertos
4
Erros
3
Sem resposta
0
Exatidão
57.1%
Média
74.4%
Pediatria
Acertos
6
Erros
10
Sem resposta
1
Exatidão
35.3%
Média
82.0%
Planeamento e Gestão em Saúde
Acertos
1
Erros
1
Sem resposta
0
Exatidão
50.0%
Média
73.2%
Pneumologia
Acertos
9
Erros
10
Sem resposta
0
Exatidão
47.4%
Média
80.6%
Psiquiatria
Acertos
4
Erros
5
Sem resposta
1
Exatidão
40.0%
Média
89.5%
Radiologia-Urgências
Acertos
7
Erros
6
Sem resposta
1
Exatidão
50.0%
Média
64.9%
Reumatologia
Acertos
5
Erros
8
Sem resposta
1
Exatidão
35.7%
Média
81.4%
Traumatologia
Acertos
5
Erros
10
Sem resposta
0
Exatidão
33.3%
Média
74.5%
Urologia
Acertos
2
Erros
4
Sem resposta
0
Exatidão
33.3%
Média
78.2%

Desagregação por Tipo de Pergunta

Anatomia
Acertos
2
Erros
4
Sem resposta
0
Exatidão
33.3%
Média
79.8%
Bioestatística
Acertos
4
Erros
1
Sem resposta
0
Exatidão
80.0%
Média
90.7%
Diagnóstico
Acertos
30
Erros
41
Sem resposta
2
Exatidão
41.1%
Média
79.2%
Epidemiologia
Acertos
8
Erros
3
Sem resposta
1
Exatidão
66.7%
Média
81.2%
Ética
Acertos
1
Erros
0
Sem resposta
0
Exatidão
100.0%
Média
94.5%
Exames
Acertos
7
Erros
13
Sem resposta
1
Exatidão
33.3%
Média
73.9%
Farmacologia
Acertos
11
Erros
14
Sem resposta
0
Exatidão
44.0%
Média
84.0%
Fisiopatologia
Acertos
16
Erros
16
Sem resposta
1
Exatidão
48.5%
Média
85.4%
Interpretação
Acertos
13
Erros
22
Sem resposta
2
Exatidão
35.1%
Média
69.6%
Prevenção
Acertos
9
Erros
3
Sem resposta
0
Exatidão
75.0%
Média
89.8%
Prognóstico
Acertos
3
Erros
2
Sem resposta
2
Exatidão
42.9%
Média
83.9%
Risco
Acertos
3
Erros
8
Sem resposta
2
Exatidão
23.1%
Média
83.6%
Tratamento
Acertos
34
Erros
33
Sem resposta
4
Exatidão
47.9%
Média
81.3%
#RespostaCorretaEstado
1AB
2AD
3B
4BC
5CC
6B
7DD
8DC
9AA
10DD
11DD
12AA
13DC
14DA
15AB
16CA
17BC
18AA
19BB
20AC
21CD
22AB
23AA
24AA
25AC
26BB
27AC
28AA
29AB
30DC
31AD
32AA
33C
34DB
35DD
36BD
37AA
38AA
39CC
40DB
41CC
42AD
43AA
44DD
45AD
46BB
47CC
48CC
49DB
50BC
51AA
52CD
53AC
54CB
55AC
56DD
57DA
58CA
59CA
60AA
61AA
62CD
63CD
64BAnulada
65CD
66DC
67CB
68BAnulada
69AA
70BB
71AB
72BD
73DB
74CC
75AB
76CA
77AD
78AC
79CB
80AA
81BC
82AC
83B
84CC
85AA
86AA
87AB
88CD
89CB
90AA
91DD
92AA
93BC
94BB
95AD
96BB
97AB
98CB
99AA
100DB
101BA
102DD
103BB
104CD
105BB
106BC
107CC
108B
109AD
110AD
111BB
112CC
113BAnulada
114BD
115DD
116AA
117DD
118DD
119AA
120CC
121AA
122AB
123CD
124AD
125BB
126DD
127AA
128DB
129BD
130CC
131C
132CD
133CA
134BC
135A
136AD
137AA
138CC
139AA
140BC
141BB
142AC
143A
144AD
145AC
146BC
147CC
148CA
149C
150DD
151AA
152DA
153AC
154DB
155BD
156BC
157DC
158AD
159DD
160AB
161BB
162AB
163BB
164DB
165CA
166AC
167AA
168CB
169C
170AA
171DD
172BB
173CA
174AB
175AA
176DC
177BC
178DB
179CC
180DAnulada
181CB
182DD
183AC
184AA
185DC
186BD
187AA
188CC
189AD
190DD
191BB
192BB
193DC
194DC
195AC
196BB
197AA
198BB
199DD
200AA
201AB
202DD
203AB
204DD
205AD
206Anulada
207DA
208AA
209BB
210CD