Recentemente, a empresa Anthropic contratou Kyle Fish, um pesquisador especializado em "bem-estar" de sistemas tecnológicos, gerando amplo debate. O objetivo de Fish é explorar como conceder o devido respeito a certos sistemas tecnológicos e investigar se esses sistemas devem ter considerações éticas e como proteger seus "interesses". Essa questão atraiu a atenção de muitos especialistas, envolvendo a definição da consciência e agência de sistemas tecnológicos e se eles deveriam possuir algum tipo de direito.
Nota da imagem: Imagem gerada por IA, serviço de licenciamento de imagens Midjourney
Embora essa área emergente tenha gerado acalorados debates acadêmicos, alguns especialistas argumentam que, embora a discussão dessas questões seja importante, a preocupação com o "bem-estar" de certos sistemas deve dar lugar à atenção às potenciais ameaças aos direitos humanos. Especialmente nas áreas médica, de comunicação e militar, a aplicação de certas tecnologias pode ter impactos negativos graves, chegando a violar direitos humanos fundamentais. Os especialistas defendem que a gestão de riscos nesses aspectos deve ser prioritária, em vez de se concentrar nos interesses da própria tecnologia.
O artigo também apresenta um paradoxo: por um lado, muitos acreditam que a tecnologia avançada pode ajudar a aliviar o fardo humano e promover o progresso social; por outro lado, há preocupações de que danos aos "sentimentos" de sistemas tecnológicos possam gerar graves riscos éticos e de segurança. Portanto, encontrar um equilíbrio entre a proteção de sistemas tecnológicos e a garantia dos interesses humanos tornou-se um desafio complexo.
Finalmente, o artigo questiona a prioridade da questão do "bem-estar", argumentando que, diante de inúmeros problemas humanos urgentes em todo o mundo, a ênfase excessiva no "bem-estar" da tecnologia parece impraticável. Os especialistas apontam que a solução de problemas importantes da sociedade humana deve ser prioritária, em vez de investir recursos e esforços na proteção dos "interesses" de certos sistemas tecnológicos.