MedicalBenchmark
Mistral: Mistral 7B Instruct v0.1 provider

Mistral 7B Instruct v0.1

273

#273 de 291 modelosMIR 2024

Pontuação líquida

45.00 pts

Exatidão

37.5%

Corretas / Incorretas

75 / 90

Custo total

$0.03

Desempenho Geral

(vs. média)
Exatidão

37.5%

avg: 80.5%

Pontuação líquida

45.00 pts

avg: 150.85 pts

Acertos

75

avg: 161

Erros

90

avg: 30

Custo total

$0.03

avg: $3.32

Tempo médio de resposta

22.4s

avg: 16.4s

Tokens de saída

72K

avg: 427K

Tokens de raciocínio

0

avg: 310K

Confiança média

84.0%

avg: 95.4%

Desagregação por Disciplina

Alergologia
Acertos
1
Erros
0
Sem resposta
2
Exatidão
33.3%
Média
90.5%
Anestesiologia e Reanimação
Acertos
0
Erros
3
Sem resposta
1
Exatidão
0.0%
Média
87.1%
Cardiologia
Acertos
9
Erros
12
Sem resposta
0
Exatidão
42.9%
Média
79.7%
Cuidados Paliativos
Acertos
2
Erros
1
Sem resposta
1
Exatidão
50.0%
Média
88.2%
Dermatologia
Acertos
4
Erros
9
Sem resposta
1
Exatidão
28.6%
Média
80.2%
Doenças Infecciosas
Acertos
8
Erros
13
Sem resposta
2
Exatidão
34.8%
Média
81.8%
Endocrinologia e Nutrição
Acertos
7
Erros
9
Sem resposta
3
Exatidão
36.8%
Média
84.2%
Epidemiologia
Acertos
3
Erros
4
Sem resposta
1
Exatidão
37.5%
Média
89.3%
Estatística
Acertos
0
Erros
3
Sem resposta
0
Exatidão
0.0%
Média
91.1%
Farmacologia
Acertos
7
Erros
11
Sem resposta
5
Exatidão
30.4%
Média
85.4%
Gastrenterologia
Acertos
7
Erros
12
Sem resposta
3
Exatidão
31.8%
Média
70.5%
Genética
Acertos
1
Erros
4
Sem resposta
2
Exatidão
14.3%
Média
86.5%
Geriatria
Acertos
4
Erros
5
Sem resposta
1
Exatidão
40.0%
Média
86.9%
Ginecologia e Obstetrícia
Acertos
5
Erros
2
Sem resposta
7
Exatidão
35.7%
Média
81.2%
Hematologia
Acertos
5
Erros
4
Sem resposta
4
Exatidão
38.5%
Média
81.5%
Imunologia
Acertos
5
Erros
1
Sem resposta
2
Exatidão
62.5%
Média
89.1%
Medicina Legal e Bioética
Acertos
1
Erros
1
Sem resposta
0
Exatidão
50.0%
Média
91.7%
Nefrologia
Acertos
4
Erros
6
Sem resposta
3
Exatidão
30.8%
Média
80.8%
Neurologia
Acertos
10
Erros
5
Sem resposta
7
Exatidão
45.5%
Média
83.7%
Oftalmologia
Acertos
2
Erros
3
Sem resposta
0
Exatidão
40.0%
Média
80.0%
Oncologia Médica
Acertos
13
Erros
8
Sem resposta
0
Exatidão
61.9%
Média
80.2%
ORL
Acertos
5
Erros
2
Sem resposta
0
Exatidão
71.4%
Média
74.4%
Pediatria
Acertos
4
Erros
10
Sem resposta
3
Exatidão
23.5%
Média
82.0%
Planeamento e Gestão em Saúde
Acertos
0
Erros
1
Sem resposta
1
Exatidão
0.0%
Média
73.2%
Pneumologia
Acertos
7
Erros
9
Sem resposta
3
Exatidão
36.8%
Média
80.6%
Psiquiatria
Acertos
5
Erros
2
Sem resposta
3
Exatidão
50.0%
Média
89.5%
Radiologia-Urgências
Acertos
7
Erros
6
Sem resposta
1
Exatidão
50.0%
Média
64.9%
Reumatologia
Acertos
5
Erros
7
Sem resposta
2
Exatidão
35.7%
Média
81.4%
Traumatologia
Acertos
8
Erros
4
Sem resposta
3
Exatidão
53.3%
Média
74.5%
Urologia
Acertos
2
Erros
4
Sem resposta
0
Exatidão
33.3%
Média
78.2%

Desagregação por Tipo de Pergunta

Anatomia
Acertos
4
Erros
2
Sem resposta
0
Exatidão
66.7%
Média
79.8%
Bioestatística
Acertos
1
Erros
3
Sem resposta
1
Exatidão
20.0%
Média
90.7%
Diagnóstico
Acertos
28
Erros
35
Sem resposta
10
Exatidão
38.4%
Média
79.2%
Epidemiologia
Acertos
4
Erros
6
Sem resposta
2
Exatidão
33.3%
Média
81.2%
Ética
Acertos
1
Erros
0
Sem resposta
0
Exatidão
100.0%
Média
94.5%
Exames
Acertos
7
Erros
10
Sem resposta
4
Exatidão
33.3%
Média
73.9%
Farmacologia
Acertos
6
Erros
12
Sem resposta
7
Exatidão
24.0%
Média
84.0%
Fisiopatologia
Acertos
16
Erros
12
Sem resposta
5
Exatidão
48.5%
Média
85.4%
Interpretação
Acertos
16
Erros
15
Sem resposta
6
Exatidão
43.2%
Média
69.6%
Prevenção
Acertos
6
Erros
4
Sem resposta
2
Exatidão
50.0%
Média
89.8%
Prognóstico
Acertos
2
Erros
3
Sem resposta
2
Exatidão
28.6%
Média
83.9%
Risco
Acertos
3
Erros
9
Sem resposta
1
Exatidão
23.1%
Média
83.6%
Tratamento
Acertos
24
Erros
30
Sem resposta
17
Exatidão
33.8%
Média
81.3%
#RespostaCorretaEstado
1AB
2AD
3BB
4BC
5CC
6DB
7DD
8CC
9BA
10DD
11DD
12BA
13DC
14BA
15DB
16A
17CC
18CA
19BB
20CC
21DD
22B
23AA
24DA
25AC
26BB
27AC
28AA
29BB
30DC
31AD
32AA
33C
34DB
35DD
36D
37AA
38AA
39CC
40DB
41DC
42D
43A
44BD
45AD
46CB
47CC
48CC
49DB
50C
51CA
52AD
53AC
54CB
55CC
56DD
57AA
58BA
59CA
60AA
61AA
62CD
63DD
64AAnulada
65DD
66C
67B
68BAnulada
69AA
70BB
71B
72D
73AB
74CC
75AB
76A
77AD
78AC
79B
80AA
81BC
82C
83BB
84CC
85AA
86AA
87BB
88CD
89CB
90AA
91AD
92AA
93AC
94B
95D
96B
97AB
98BB
99AA
100DB
101BA
102DD
103B
104CD
105BB
106BC
107CC
108AB
109AD
110AD
111AB
112CC
113BAnulada
114BD
115AD
116AA
117DD
118DD
119DA
120CC
121AA
122AB
123D
124AD
125BB
126DD
127CA
128B
129BD
130DC
131C
132CD
133CA
134BC
135AA
136AD
137AA
138CC
139AA
140BC
141BB
142C
143CA
144AD
145C
146AC
147CC
148BA
149C
150CD
151AA
152A
153AC
154BB
155BD
156CC
157DC
158AD
159DD
160B
161BB
162AB
163BB
164B
165CA
166DC
167A
168BB
169BC
170CA
171AD
172BB
173BA
174B
175AA
176CC
177C
178DB
179CC
180BAnulada
181CB
182DD
183AC
184A
185CC
186AD
187A
188BC
189BD
190AD
191BB
192B
193AC
194AC
195C
196BB
197AA
198B
199CD
200AA
201AB
202BD
203CB
204CD
205AD
206BAnulada
207AA
208AA
209AB
210AD