RESUMO Este artigo investiga a metáfora da “black box” na inteligência artificial, uma representação que frequentemente sugere que a IA é um poder insondável, politicamente incontrolável e envolto em uma aura de opacidade. Embora o conceito de “black box” seja legítimo e aplicável em redes neurais profundas, devido à complexidade inerente do processo, ele também se transformou em um pretexto genérico para a percepção, que buscamos analisar de maneira crítica, de que os sistemas de IA são inescrutáveis e fora de controle, bem como dotados de suposta inteligência e criatividade. Para desafiar essas ideias, abordaremos o que chamamos de supremacia dos padrões e os dois fenômenos significativos decorrentes: o determinismo encantado e a ditadura do passado. black box artificial insondável opacidade profundas processo percepção crítica controle criatividade ideias decorrentes passado

ABSTRACT This article investigates the metaphor of the “black box” in artificial intelligence, a representation that often suggests that AI is an unfathomable power, politically uncontrollable and shrouded in an aura of opacity. While the concept of the “black box” is legitimate and applicable in deep neural networks due to the inherent complexity of the process, it has also become a generic pretext for the perception, which we seek to critically analyze, that AI systems are inscrutable and out of control, as well as supposedly endowed with intelligence and creativity. To challenge these ideas, we will address what we call the supremacy of patterns and the two significant phenomena that result from it: enchanted determinism and the dictatorship of the past. black box power opacity process perception analyze control creativity ideas past

RESUMO Nesta entrevista, mergulhamos nas reflexões de Luciano Floridi, uma figura proeminente na filosofia contemporânea e pioneiro na filosofia da informação. Reconhecido globalmente, Floridi desempenha um papel crucial na abordagem das implicações éticas das tecnologias digitais. O diálogo abrange temas cruciais da inteligência artificial, explorando o “Singularitarismo” e questionando se as perspectivas evoluíram com a ascensão da IA generativa. A discussão se estende aos modelos de linguagem de grande porte, destacando a falta de raciocínio real e a desconexão entre agência e inteligência. A entrevista destaca a importância do desenvolvimento da inteligência e do pensamento crítico diante dos desafios apresentados pelo ChatGPT, abordando preocupações sobre possíveis declínios cognitivos. Quanto ao futuro da inteligência artificial, Floridi delineia questões fundamentais no GELSI, mapeando implicações para governança, ética, legalidade e sociedade. informação globalmente digitais artificial Singularitarismo “Singularitarismo generativa porte ChatGPT cognitivos GELSI governança ética sociedade

ABSTRACT In this interview, we delve into the reflections of Luciano Floridi, a prominent figure in contemporary philosophy and a pioneer in the philosophy of information. Recognized globally, Floridi plays a crucial role in addressing the ethical implications of digital technologies. The dialog covers crucial themes in artificial intelligence, exploring “Singularitarianism” and questioning whether perspectives have evolved with the rise of generative AI. The discussion extends to large language models, highlighting the lack of real reasoning and the disconnect between agency and intelligence. The interview highlights the importance of developing intelligence and critical thinking in the face of the challenges presented by ChatGPT, addressing concerns about possible cognitive decline. As for the future of artificial intelligence, Floridi outlines key issues in GELSI, mapping implications for governance, ethics, legality and society. information globally technologies Singularitarianism “Singularitarianism AI models ChatGPT decline GELSI governance ethics society

RESUMO A partir da hipótese de que a inteligência artificial como tal não representaria o fim da supremacia humana, uma vez que, na essência, a IA somente simularia e aumentaria aspectos da inteligência humana em artefatos não biológicos, o presente artigo questiona sobre o risco real a ser enfrentado. Para além do embate entre tecnofóbicos e tecnofílicos, o que se defende, então, é que as possíveis falhas de funcionamento de uma inteligência artificial - decorrentes de sobrecarga de informação, de uma programação equivocada ou de uma aleatoriedade do sistema - poderiam sinalizar os verdadeiros riscos existenciais, sobretudo quando se considera que o cérebro biológico, na esteira do viés da automação, tende a assumir de maneira acrítica aquilo que é posto por sistemas ancorados em inteligência artificial. Além disso, o argumento aqui defendido é que falhas não detectáveis pela provável limitação de controle humano quanto ao aumento de complexidade do funcionamento de sistemas de IA representam o principal risco existencial real.

ABSTRACT Based on the hypothesis that artificial intelligence would not represent the end of human supremacy, since, in essence, AI would only simulate and increase aspects of human intelligence in non-biological artifacts, this paper questions the real risk to be faced. Beyond the clash between technophobes and technophiles, what is argued, then, is that the possible malfunctions of an artificial intelligence - resulting from information overload, from a wrong programming or from a randomness of the system - could signal the real existential risks, especially when we consider that the biological brain, in the wake of the automation bias, tends to assume uncritically what is set by systems anchored in artificial intelligence. Moreover, the argument defended here is that failures undetectable by the probable limitation of human control regarding the increased complexity of the functioning of AI systems represent the main real existential risk.

Este artigo é uma apresentação dos fundamentos da teoria modular desenvolvida por Jerry A. Fodor e uma reflexão sobre seus principais desafios. A noção de modularidade da mente de Fodor, por um lado, procura superar as insuficiências metodológicas e epistemológicas do associacionismo e do localizacionismo a respeito das explicações da estrutura e do funcionamento mental; por outro lado, é uma oposição à postura culturalista de Vygotsky, para o qual as funções superiores da mente, como a cognição, são produtos artificiais, culturais. A psicologia cognitiva de Chomsky converteu esse produto "artificial" em "natural", postulando a existência de módulos inatos para desempenhar funções cognitivas específicos. Com base nessa ideia de Chomsky, Fodor procura explicar a mente como um conjunto de módulos. No entanto, sua principal contribuição para as ciências cognitivas é a apresentação da arquitetura mental em dois níveis e a afirmação da existência de módulos centrais responsáveis pelas atividades cognitivas superiores, como criatividade, reflexão ou imaginação.

The aim of this paper is to present the basic elements regarding the modular theory developed by Jerry A. Fodor and some considerations about its main challenges. Fodor's notion of mind modularity, on the one hand, aims at overcoming the methodological and epistemological gaps of associationism and localizationism concerning the explanations of the structure and functioning of the mind; on the other hand, Fodor's notion stands as an opposition to Vygotsky's culturalist posture, since for the latter the higher functions of the mind, such as cognition, are artificial and cultural products. Chomsky's cognitive psychology has converted this "artificial" product into a "natural" one, postulating the existence of innate modules to perform specific cognitive functions. Based on Chomsky's idea, Fodor describes the mind as a group of modules. However, his main contribution to the cognitive sciences is the presentation of the mental architecture in two levels and the affirmation of the existence of central modules that are responsible for the higher cognitive activities such as creativity, reflection or imagination.