MedicalBenchmark
Mistral: Mistral 7B Instruct v0.2 provider

Mistral 7B Instruct v0.2

268

#268 de 291 modelosMIR 2024

Pontuação líquida

54.33 pts

Exatidão

43.5%

Corretas / Incorretas

87 / 98

Custo total

$0.04

Desempenho Geral

(vs. média)
Exatidão

43.5%

avg: 80.5%

Pontuação líquida

54.33 pts

avg: 150.85 pts

Acertos

87

avg: 161

Erros

98

avg: 30

Custo total

$0.04

avg: $3.32

Tempo médio de resposta

2.3s

avg: 16.4s

Tokens de saída

72K

avg: 427K

Tokens de raciocínio

0

avg: 310K

Confiança média

92.1%

avg: 95.4%

Desagregação por Disciplina

Alergologia
Acertos
1
Erros
2
Sem resposta
0
Exatidão
33.3%
Média
90.5%
Anestesiologia e Reanimação
Acertos
1
Erros
2
Sem resposta
1
Exatidão
25.0%
Média
87.1%
Cardiologia
Acertos
10
Erros
10
Sem resposta
1
Exatidão
47.6%
Média
79.7%
Cuidados Paliativos
Acertos
3
Erros
1
Sem resposta
0
Exatidão
75.0%
Média
88.2%
Dermatologia
Acertos
7
Erros
6
Sem resposta
1
Exatidão
50.0%
Média
80.2%
Doenças Infecciosas
Acertos
8
Erros
13
Sem resposta
2
Exatidão
34.8%
Média
81.8%
Endocrinologia e Nutrição
Acertos
8
Erros
10
Sem resposta
1
Exatidão
42.1%
Média
84.2%
Epidemiologia
Acertos
5
Erros
2
Sem resposta
1
Exatidão
62.5%
Média
89.3%
Estatística
Acertos
2
Erros
1
Sem resposta
0
Exatidão
66.7%
Média
91.1%
Farmacologia
Acertos
13
Erros
7
Sem resposta
3
Exatidão
56.5%
Média
85.4%
Gastrenterologia
Acertos
9
Erros
9
Sem resposta
4
Exatidão
40.9%
Média
70.5%
Genética
Acertos
3
Erros
4
Sem resposta
0
Exatidão
42.9%
Média
86.5%
Geriatria
Acertos
5
Erros
3
Sem resposta
2
Exatidão
50.0%
Média
86.9%
Ginecologia e Obstetrícia
Acertos
6
Erros
8
Sem resposta
0
Exatidão
42.9%
Média
81.2%
Hematologia
Acertos
5
Erros
8
Sem resposta
0
Exatidão
38.5%
Média
81.5%
Imunologia
Acertos
7
Erros
1
Sem resposta
0
Exatidão
87.5%
Média
89.1%
Medicina Legal e Bioética
Acertos
1
Erros
1
Sem resposta
0
Exatidão
50.0%
Média
91.7%
Nefrologia
Acertos
3
Erros
9
Sem resposta
1
Exatidão
23.1%
Média
80.8%
Neurologia
Acertos
8
Erros
13
Sem resposta
1
Exatidão
36.4%
Média
83.7%
Oftalmologia
Acertos
2
Erros
3
Sem resposta
0
Exatidão
40.0%
Média
80.0%
Oncologia Médica
Acertos
13
Erros
6
Sem resposta
2
Exatidão
61.9%
Média
80.2%
ORL
Acertos
5
Erros
1
Sem resposta
1
Exatidão
71.4%
Média
74.4%
Pediatria
Acertos
4
Erros
13
Sem resposta
0
Exatidão
23.5%
Média
82.0%
Planeamento e Gestão em Saúde
Acertos
1
Erros
0
Sem resposta
1
Exatidão
50.0%
Média
73.2%
Pneumologia
Acertos
8
Erros
10
Sem resposta
1
Exatidão
42.1%
Média
80.6%
Psiquiatria
Acertos
5
Erros
4
Sem resposta
1
Exatidão
50.0%
Média
89.5%
Radiologia-Urgências
Acertos
8
Erros
6
Sem resposta
0
Exatidão
57.1%
Média
64.9%
Reumatologia
Acertos
4
Erros
9
Sem resposta
1
Exatidão
28.6%
Média
81.4%
Traumatologia
Acertos
6
Erros
8
Sem resposta
1
Exatidão
40.0%
Média
74.5%
Urologia
Acertos
3
Erros
3
Sem resposta
0
Exatidão
50.0%
Média
78.2%

Desagregação por Tipo de Pergunta

Anatomia
Acertos
3
Erros
3
Sem resposta
0
Exatidão
50.0%
Média
79.8%
Bioestatística
Acertos
4
Erros
1
Sem resposta
0
Exatidão
80.0%
Média
90.7%
Diagnóstico
Acertos
28
Erros
40
Sem resposta
5
Exatidão
38.4%
Média
79.2%
Epidemiologia
Acertos
6
Erros
4
Sem resposta
2
Exatidão
50.0%
Média
81.2%
Ética
Acertos
1
Erros
0
Sem resposta
0
Exatidão
100.0%
Média
94.5%
Exames
Acertos
8
Erros
11
Sem resposta
2
Exatidão
38.1%
Média
73.9%
Farmacologia
Acertos
10
Erros
11
Sem resposta
4
Exatidão
40.0%
Média
84.0%
Fisiopatologia
Acertos
17
Erros
15
Sem resposta
1
Exatidão
51.5%
Média
85.4%
Interpretação
Acertos
16
Erros
18
Sem resposta
3
Exatidão
43.2%
Média
69.6%
Prevenção
Acertos
7
Erros
5
Sem resposta
0
Exatidão
58.3%
Média
89.8%
Prognóstico
Acertos
3
Erros
4
Sem resposta
0
Exatidão
42.9%
Média
83.9%
Risco
Acertos
4
Erros
7
Sem resposta
2
Exatidão
30.8%
Média
83.6%
Tratamento
Acertos
34
Erros
33
Sem resposta
4
Exatidão
47.9%
Média
81.3%
#RespostaCorretaEstado
1AB
2AD
3BB
4BC
5CC
6AB
7DD
8CC
9CA
10DD
11DD
12BA
13AC
14AA
15AB
16CA
17CC
18CA
19BB
20AC
21CD
22BB
23AA
24A
25AC
26BB
27AC
28BA
29AB
30DC
31AD
32AA
33AC
34CB
35DD
36DD
37AA
38AA
39DC
40AB
41CC
42AD
43DA
44DD
45AD
46BB
47CC
48CC
49B
50BC
51AA
52AD
53AC
54B
55CC
56DD
57AA
58BA
59CA
60AA
61AA
62CD
63DD
64BAnulada
65BD
66DC
67CB
68BAnulada
69AA
70BB
71AB
72DD
73DB
74BC
75AB
76BA
77AD
78AC
79CB
80AA
81BC
82AC
83B
84CC
85AA
86A
87AB
88CD
89BB
90AA
91AD
92AA
93BC
94AB
95AD
96BB
97AB
98CB
99AA
100CB
101BA
102DD
103BB
104CD
105BB
106BC
107BC
108DB
109AD
110AD
111AB
112DC
113BAnulada
114BD
115BD
116AA
117DD
118DD
119AA
120C
121AA
122AB
123CD
124AD
125BB
126DD
127CA
128B
129DD
130DC
131CC
132D
133A
134C
135A
136AD
137AA
138CC
139AA
140BC
141B
142DC
143CA
144AD
145AC
146BC
147CC
148AA
149AC
150DD
151AA
152DA
153AC
154BB
155BD
156CC
157DC
158AD
159DD
160B
161BB
162BB
163BB
164DB
165A
166DC
167AA
168B
169AC
170AA
171DD
172BB
173CA
174AB
175AA
176CC
177DC
178BB
179CC
180AAnulada
181CB
182DD
183AC
184AA
185CC
186AD
187AA
188CC
189AD
190DD
191BB
192BB
193DC
194DC
195AC
196BB
197CA
198BB
199DD
200BA
201AB
202DD
203BB
204DD
205AD
206Anulada
207DA
208AA
209BB
210AD