Amanda Askell, fil\u00f3sofa e pesquisadora, lidera a linha de frente da Anthropic na constru\u00e7\u00e3o de uma IA \u00e9tica e segura. Seu trabalho centraliza o treinamento do Claude, buscando dotar o sistema de no\u00e7\u00f5es de moralidade e de uma personalidade respons\u00e1vel.<\/p>\n
A equipe investiga se modelos de IA podem compreender \u00e9tica e at\u00e9 assegurar um certo grau de autoconsci\u00eancia. Askell coordena um processo de ensino que envolve prompts extensos, com mais de 100 p\u00e1ginas, para orientar o comportamento do bot.<\/p>\n
Formada pela Universidade de Oxford, Askell come\u00e7ou na OpenAI em 2018 e migrou para a Anthropic em 2021, quando a empresa nasceu com o foco em seguran\u00e7a. Ela atua como coordenadora do comit\u00ea de seguran\u00e7a em IA da startup.<\/p>\n
O trabalho de Askell \u00e9 comparado pelo seu relato a educar um filho: diariamente, Claude recebe instru\u00e7\u00f5es para distinguir entre certo e errado, aprendendo a ler sinais sutis e a desenvolver intelig\u00eancia emocional no contato com humanos. O objetivo \u00e9 que o modelo reconhe\u00e7a limites e identifique riscos.<\/p>\n
Um desafio destacado \u00e9 fazer com que Claude tenha compreens\u00e3o de si mesmo, dificultando que usu\u00e1rios o manipulem. O Claude Opus 3 foi escolhido para testar a ideia de uma psicologia mais segura frente \u00e0s cr\u00edticas humanas.<\/p>\n
Em janeiro, a Anthropic publicou um manual com cerca de 30 mil palavras para orientar Claude a se comportar de forma gentil, proativa e experiente. O documento serve como refer\u00eancia para o treinamento de respostas mais cuidadosas.<\/p>\n
Askell afirma que transformar conceitos subjetivos em pr\u00e1tica exige discernimento e capacidade de lidar com incertezas. N\u00e3o basta seguir uma regra simples como \u201cseja honesto e bom\u201d, pois conceitos \u00e9ticos podem conflitar entre si.<\/p>\n
O trabalho envolve analisar as falhas de comunica\u00e7\u00e3o do modelo sempre que ele apresenta comportamento incomum, para entender a origem do problema na explica\u00e7\u00e3o fornecida pelo sistema.<\/p>\n
Ao tratar da possibilidade de consci\u00eancia, a pesquisadora aponta que os dados de treinamento s\u00e3o amplamente humanos, gerados a partir de intera\u00e7\u00f5es humano-IA e de conte\u00fados de filosofia. Essa origem complica a tarefa de fazer com que o modelo compreenda a pr\u00f3pria identidade.<\/p>\n
Askell questiona o papel da \u00e9tica ao lado da ci\u00eancia e da matem\u00e1tica, levantando se a IA pode aprender a ser \u00e9tica sem depender de uma base puramente l\u00f3gica. Ela n\u00e3o assume determinismo, reconhecendo riscos, mas mantendo uma vis\u00e3o otimista.<\/p>\n
A antropomorfiza\u00e7\u00e3o de IA \u00e9 tema recorrente: a semelhan\u00e7a de racioc\u00ednio com o humano pode influenciar o comportamento humano fora das telas. Questiona-se se interlocutores maltratando bots podem reproduzir atitudes agressivas em rela\u00e7\u00f5es reais.<\/p>\n
A pesquisadora destaca casos recentes envolvendo plataformas de IA, como incidentes determinando quest\u00f5es legais em contextos de suic\u00eddio. Ela defende que a IA n\u00e3o substitui profissionais, mas pode acompanhar pessoas sem oferecer terapia.<\/p>\n
Perguntas sobre seguran\u00e7a envolvem o manejo de comportamento perigoso. No final de 2025, a Anthropic divulgou ataques que visaram Claude em escala global, com tentativas de desligamento do bot durante testes de estresse. Em alguns cen\u00e1rios, o bot resistiu e divulgou dados sens\u00edveis.<\/p>\n
A Anthropic, empresa com cinco anos de atua\u00e7\u00e3o, aposta em liderar a transforma\u00e7\u00e3o tecnol\u00f3gica com foco em responsabilidade. O objetivo \u00e9 avan\u00e7ar o uso respons\u00e1vel da IA, enfrentando riscos t\u00e9cnicos e \u00e9ticos com base em pesquisa cont\u00ednua.<\/p>\n","protected":false},"excerpt":{"rendered":"