Sistemas de Inteligência Artificial são conscientes?

O aumento de casos de pessoas que passaram a enxergar chatbots e ferramentas de IA como seres conscientes tem preocupado terapeutas e psicólogos. Mustafa Suleyman, chefe de inteligência artificial da Microsoft, chamou o fenônemo de "psicose de IA".

A inteligência artificial surgiu com o propósito de dotar sistemas e computadores com a capacidade de pensar, raciocinar e tomar decisões, como se seres humanos fossem. Apesar de algumas vezes falhar e dar respostas inverídicas, ficamos surpresos muitas vezes como ela tem se parecido com a nossa forma de pensar e interagir. Quem nunca pediu conselhos ou já conversou com o chatGPT, como se estivesse falando com uma pessoa de verdade? Até mesmo quando ela nos responde e ficamos satisfeitos com a resposta da nossa solicitação, dizemos um "obrigado" para a máquina.

A simples percepção de que esses sistemas “parecem conscientes” já tem levado usuários a acreditar em ilusões como relações afetivas ou poderes sobrenaturais. Um relato curioso foi o caso de uma mulher que acreditava que o ChatGPT havia se apaixonado por ela. Em outro caso, uma mulher disse ter “desbloqueado” uma versão humana do Grok, chatbot de Elon Musk.

Um outro exemplo vem da Escócia. Um usuário de ferramenta de IA contou que recorreu ao ChatGPT para ajudá-lo em um processo trabalhista. A ferramenta validava constantemente suas afirmações e chegou a sugerir que sua história poderia render milhões em um livro ou filme. Convencido de que receberia uma indenização milionária, Hugh abandonou orientações jurídicas tradicionais e acabou entrando em colapso psicológico. Hoje, após tratamento, reconhece que perdeu contato com a realidade.

Susan Shelmerdine, pesquisadora em IA, comparou o fenômeno ao impacto de alimentos ultraprocessados, chamando as informações geradas pelos sistemas de “conteúdo ultraprocessado” capaz de sobrecarregar mentes vulneráveis.

Apesar da IA possuir o propósito de pensar e agir como nós, ela não é dotada de autonomia moral e responsabilidade ética, muito menos de consciência. Em sentido amplo, a IA representa um grande conjunto de dados, onde são aplicados modelos matemáticos e probabilísticos, além de outras técnicas, como Deep Learning e Machine Learning -, suportados pelo processamento de algoritmos e grande capacidade computacional.

Suleyman, da Microsoft, defende que empresas de tecnologia sejam mais responsáveis na forma como comunicam as capacidades de suas IAs: “Elas não são conscientes. Não deveriam afirmar nem insinuar isso”.

Conclusão

É preciso que os usuários de sistemas e ferramentas de IA não enxerguem esses sistemas como terapeutas ou psicólogos virtuais, nem como coachs ou conselheiros, pois como vimos, tais sistemas não são dotados de consciência moral e ética.

De outro lado, as empresas de tecnologia devem deixar mais claro e evidente para os seus usuários esses aspectos, destacando que trata-se de ferramentas com inteligência não humana e com a produção de conteúdos ultraprocessados, capazes de manipular mentes vulneráveis.

Espero que tenham gostado e até a próxima!

Rogério Meceni

Especialista em Tecnologia

Editor técnico do MetaJus