Responsabilidade civil do médico e do desenvolvedor no diagnóstico algorítmico
| Autor | Augusto Pereira Costa e Eugênio Facchini Neto |
| Ocupação do Autor | Mestre em Direito pela Pontifícia Universidade Católica do Rio Grande do Sul. Advogado. / Doutor em Direito Comparado pela Universidade de Florença/Itália. Mestre em Direito Civil pela USP. Professor Titular nos cursos de graduação, mestrado e doutorado em Direito da PUC/RS. Ex-Diretor da Escola Superior da Magistratura/AJURIS. Desembargador no... |
| Páginas | 25-70 |
RESPONSABILIDADE CIVIL DO MÉDICO
E DO DESENVOLVEDOR NO
DIAGNÓSTICO ALGORÍTMICO
Augusto Pereira Costa*1
Eugênio Facchini Neto**2
Sumário: Introdução – 1. O que é inteligência articial? – 2. Alguns conceitos para compre-
ender como funciona a inteligência articial – 3. O impacto tecnológico na medicina – 4. A
inteligência articial aplicada à medicina e seus riscos – 5. O diagnóstico médico, a árvore de
decisões e a inferência bayesiana – 6. Risco de erros cometidos por diagnóstico algorítmico – 7.
A responsabilidade civil do médico e do desenvolvedor, em caso de diagnóstico algorítmico
– 8. Considerações nais – Referências.
INTRODUÇÃO
Com o advento e rápida difusão e aprofundamento das tecnologias oriundas
da ciência da inteligência articial, especialmente no que se refere aos sistemas
inteligentes para auxílio à tomada de decisão, suas repercussões no âmbito
jurídico começaram a aparecer. Todo impacto tecnológico acaba tendo efeitos
que ultrapassam a área técnica e desbordam para a área jurídica, seja por exigir
uma regulamentação, seja pela necessidade de impor alguns limites, seja ainda
pelo fato de se ter de decidir sobre se e como devem ser reparados eventuais
danos causados.
O presente trabalho parte dessa premissa ao buscar esclarecer a relação
entre sistemas computacionais decisórios, telemedicina e a responsabilidade
civil no campo da atuação médica, mais precisamente por erro no diagnóstico
elaborado com auxílio em sowares de inteligência articial. Ou seja, será abor-
dada a situação em que o diagnóstico (e consequente prognóstico e terapêutica)
não decorre apenas de uma relação entre médico e paciente, com a anamnese e
análise exclusivamente humana dos sintomas e exames do paciente, mas em que o
* Mestre em Direito pela Pontifícia Universidade Católica do Rio Grande do Sul. Advogado.
** Doutor em Direito Comparado pela Universidade de Florença/Itália. Mestre em Direito Civil pela USP.
Professor Titular nos cursos de graduação, mestrado e doutorado em Direito da PUC/RS. Ex-Diretor
da Escola Superior da Magistratura/AJURIS. Desembargador no TJRS.
EBOOK MANUAL DE DIREITO DIGITAL MEDICO.indb 25EBOOK MANUAL DE DIREITO DIGITAL MEDICO.indb 25 07/10/2022 11:04:5107/10/2022 11:04:51
AUGUSTO PEREIRA COSTA E EUGÊNIO FACCHINI NETO
26
médico se apoia também em um sistema que incorpora inteligência articial, isto
é, um soware que se utiliza de algoritmos de machine learning para apresentar
um resultado probabilístico para o diagnóstico de patologias.
Percebe-se, assim, que é introduzida na relação médico-paciente um novo
elemento, consistente no sistema de diagnóstico algorítmico. Trata-se de tecnolo-
gia cada vez mais aperfeiçoada e difundida na medicina contemporânea. Isso tem
trazido uma maior precisão diagnóstica, uma vez que o soware que fornecesse
esse auxílio é alimentado por um enorme banco de dados, contendo milhares
de casos semelhantes, estatísticas, dados e informações cientícas etc. É como
se o médico que está tratando do paciente estivesse dialogando com um colega
com uma experiência milhares de vezes superior à sua naquela área especíca e
que recordasse todos os estudos clínicos e literatura médica a respeito daquele
tema. Normalmente, portanto, o resultado positivo dessa interação é evidente.
Há muito mais acertos do que erros. Todavia, nenhuma tecnologia é infalível. Um
dos problemas mais agudos dessa tecnologia, é que ela lida com correlações e não
necessariamente com causalidade, e isso pode levar a conclusões equivocadas,
como será visto.
No campo jurídico, a questão que se coloca nesses casos envolve o tema da
responsabilidade civil do médico. Ou seja, como resolver casos em que o médico
chegou a um diagnóstico equivocado por seguir a orientação fornecida pelo
sistema de inteligência articial, apesar de ela contradizer a conclusão a que ele
teria chegado, apenas a partir da anamnese do paciente e análise de seus exames
clínicos? Nesse caso, haveria também alguma responsabilidade civil do desen-
volvedor desse sistema?
Buscar-se-á responder a essas questões por meio do método indutivo,
partindo de uma análise bibliográca e documental, adotando-se metodologia
de procedimento de pesquisa monográco, dentro do contexto da inteligência
articial e sua aplicação nas atividades médicas lato sensu.
Nessa proposta, o trabalho aborda em sua parte inicial questões ligadas
à descrição e conceituação da inteligência articial, seu funcionamento e suas
possíveis aplicações no campo da medicina, especialmente para chegar a diagnós-
ticos potencialmente mais precisos, por meio de algoritmos. Nesse ponto, serão
mencionados estudos que comparam os resultados do diagnóstico tradicional
com outros obtidos por meio das técnicas de decision tree e bayesian classier.
Na parte mais nal do texto será abordada a inevitável falibilidade ocasional dos
sistemas inteligentes, por suas inafastáveis limitações, gerando risco de erros
em diagnósticos, e, por m, concluir-se-á com ponderações sobre a potencial
responsabilidade civil do médico e do desenvolvedor do sistema inteligente em
caso de diagnóstico algorítmico.
EBOOK MANUAL DE DIREITO DIGITAL MEDICO.indb 26EBOOK MANUAL DE DIREITO DIGITAL MEDICO.indb 26 07/10/2022 11:04:5107/10/2022 11:04:51
27
rESPoNSABILIdAdE CIVIL do MÉdICo E do dESENVoLVEdor No dIAGNÓStICo ALGorÍtMICo
1. O QUE É INTELIGÊNCIA ARTIFICIAL?
A expressão “Inteligência Articial” veio a ser cunhada pouco depois de seu
conceito bruto ter sido trabalhado por Alan Turing, em meados de 1950. Ainda
que Turing tenha sido pioneiro na criação de um programa algorítmico e sus-
citado o questionamento que mudou a história da humanidade (“can machines
think?”),1 quem cunhou a expressão, na verdade, foi John McCarthy, no ano de
1956, em um seminário de trabalho realizado na Universidade de Darthmouth,
acompanhado de outros dez cientistas da área. Essa menção foi feita em carta que
continha a proposta de iniciar um projeto de estudos na área, designada como um
ramo da ciência denominado “Inteligência Articial”. A missiva foi rmada por
Claude E. Shannon, Marvin L. Minsky, Nathaniel Rochester e John McCarthy.2
Não há consenso sobre o que é, exatamente, esse fenômeno que vem cada
vez mais invadindo e impactando todas as áreas da realidade social, desde o
marketing e análise de consumo, passando pela medicina, área jurídica, veículos
autônomos, drones etc. Tudo se torna “inteligente” – fala-se em smart cities, smart
homes, smart closets e por aí vai.
A resposta a questionamentos sobre inteligência articial necessariamente
passa pela pergunta inicial o que é inteligência. Se inteligência for considerada um
aspecto exclusivamente humano, ter-se-ia que uma máquina inteligente é uma
máquina humana, pois dotada de aspectos da inteligência como a habilidade de
conhecer e sentir. Seriam substancialmente equivalentes, sob esse aspecto, uma
máquina de inteligência articial ou um humano em corpo robótico. Esse não
parece ser o melhor caminho, posto que envolveria discutir o reconhecimento da
máquina articial como ser dotado de direitos e deveres perante si e outrem. Esse
caminho, aliás, já foi proposto doutrinário e chegou a ser cogitado no âmbito da
União Europeia em 2017, mas abandonado em 2020.
John McCarthy propõe a inteligência, então, como a parte “computacional”
da habilidade de atingir objetivos, possuindo diversos níveis entre seres humanos,
animais e máquinas.3 A proposta de McCarthy parte da premissa de que a inteli-
gência humana seria compreensível a partir da computacional e reciprocamente.
Contudo, refere ele que a verdadeira inteligência de máquina seria atingível apenas
em uma máquina com capacidade de compreensão generalizada.4
1. TURING, Alan. COMPUTING MACHINERY AND INTELLIGENCE. Mind, v. LIX, Issue 236, October
1950, p. 433-460. Disponível em: https://doi.org/10.1093/mind/LIX.236.433.
2. MCCARTHY, John; MINSKY, Marvin L.; ROCHESTER, Nathaniel; SHANNON, Claude E. A Proposal
for the Dartmouth Summer Research Project on Articial Intelligence. 31 de agosto de 1955. AI Ma-
gazine, v. 27, n. 4 (2006) (© AAAI). Disponível em: https://www.aaai.org/ojs/index.php/aimagazine/
article/view/1904/1802. Acesso em: 13 maio 2020.
3. Disponível em: http://jmc.stanford.edu/articial-intelligence/what-is-ai/index.html. Acesso em: 02 jul. 2020.
4. MCCARTHY, John. Generality in articial intelligence. Disponível em: http://jmc.stanford.edu/articles/
generality/generality.pdf. Acesso em: 02 jul. 2020.
EBOOK MANUAL DE DIREITO DIGITAL MEDICO.indb 27EBOOK MANUAL DE DIREITO DIGITAL MEDICO.indb 27 07/10/2022 11:04:5107/10/2022 11:04:51
Para continuar a ler
PEÇA SUA AVALIAÇÃO