Abstract: Computational psychiatry (CP), based on artificial intelligence technology, plays an increasingly important role in scientific research and medical diagnosis. Epistemic concerns in the ethics of artificial intelligence have also been at the center of debate in CP, but the different epistemic forms of injustice caused by the internal cultures of CP remain unexplained. We distinguish between data-driven and theory-driven cultures and their research purposes via practical examples of CP models deployed in addiction. A data-driven culture may advance medical understanding of biological categories of mental illness, whereas a theory-driven culture provides better explanatory mechanisms between symptoms and biology. We discuss testimonial injustice caused by the silencing of patient voices in a data-driven culture, and hermeneutic injustice caused by the non-sharing of hermeneutic resources in theory-driven culture based on Miranda Fricker’s account of epistemic injustice. We analyze the factors underlying nuances in epistemic forms between the two, such as naturalistic-dominated medical understanding and the system’s epistemic privileging. The above epistemic risks all indicate the intricacies of mental disorders and require that success be assessed in terms of actual benefit to patients. Finally, we emphasize the importance of the patient’s phenomenology and call for greater inclusion of patients in psychiatric decision-making processes.
Resumen: La psiquiatría computacional (PC), basada en la tecnología de la inteligencia artificial, desempeña un papel cada vez más importante en la investigación científica y el diagnóstico médico. Las preocupaciones epistémicas en la ética de la inteligencia artificial también han estado en el centro del debate en la PC, pero las diferentes formas epistémicas de injusticia causadas por las culturas internas de la PC siguen sin explicarse. Distinguimos entre las culturas basadas en los datos y las impulsadas por la teoría y sus propósitos de investigación mediante ejemplos prácticos de modelos de CP mostrados en la adicción. Una cultura impulsada por los datos puede hacer avanzar la comprensión médica de las categorías biológicas de las enfermedades mentales, mientras que una cultura impulsada por la teoría proporciona mejores mecanismos explicativos entre los síntomas y la biología. Basándonos en el relato de Miranda Fricker sobre la injusticia epistémica, discutimos la injusticia testimonial causada por el silenciamiento de los pacientes en una cultura centrada en los datos y la injusticia hermenéutica causada por el hecho de no compartir estos recursos en una cultura centrada en la teoría, Analizamos los factores que subyacen a los matices en las formas epistémicas entre ambas, como la comprensión médica dominada por el naturalismo y el privilegio epistémico del sistema. Todos los riesgos mencionados indican la complejidad de los trastornos mentales y exigen que el éxito se evalúe en términos de beneficio real para los pacientes. Por último, hacemos hincapié en la importancia de la fenomenología del paciente y pedimos una mayor inclusión de los pacientes en los procesos de toma de decisiones psiquiátricas.
Resumo: Psiquiatria computacional (PC), baseada na tecnologia da inteligência artificial, tem um papel crescentemente importante na pesquisa científica e no diagnóstico médico. Preocupações epistêmicas na ética da inteligência artificial tem também estado no centro das discussões da PC, mas as diferentes formas epistêmicas de injustiça causadas pelas culturas internas da PC permanecem inexplicáveis. Distinguimos entre culturas orientadas por dados e orientada por teorias e seus propósitos de pesquisa via exemplos práticos de modelos de PC empregados em dependências. Uma cultura orientada por dados pode avançar a compreensão médica de categorias biológicas de doença mental, enquanto uma cultura orientada por teorias fornece melhores mecanismos explicativos entre sintomas e biologia. Discutimos injustiça testemunhal causada pelo silenciamento de vozes de pacientes em uma cultura orientada por dados e injustiça hermenêutica causada pelo não compartilhamento de recursos hermenêuticos em cultura orientada por teorias, baseados no relato de Miranda Fricker sobre injustiça epistêmica. Analisamos os fatores subjacentes às nuances nas formas epistêmicas entre os dois, tais como a compreensão médica dominada pelo naturalismo e o privilégios epistêmicos do sistema. Todos os riscos epistêmicos citados anteriormente indicam as complexidades dos transtornos mentais e requerem que sucesso seja avaliado em termos de benefício real aos pacientes. Finalmente, enfatizamos a importância da fenomenologia do paciente e clamamos por maior inclusão de pacientes em processos de tomada de decisão psiquiátrica.