Grandes empresas de IA, na verdade, adoram contratar filósofos?!

A versão mais recente da carta de Claude foi elaborada com a liderança da filósofa Amanda,
pelo menos 4 filósofos ocupam cargos importantes na Anthropic, a DeepMind tem pelo menos 10, e quando a OpenAI definiu diretrizes de comportamento para o ChatGPT, também consultou centenas de filósofos morais.
A IA traz uma série de questões espinhosas — e essas são exatamente as áreas em que filósofos são mais experientes.
Primeiro, filósofos podem traçar limites de comportamento para a IA.
A IA precisa decidir quais solicitações devem ser recusadas e, quando segurança e vontade do usuário entram em conflito, o que deve ser priorizado. Essas questões envolvem a compreensão de danos, honestidade e responsabilidade — exatamente o que filósofos pesquisam há muito tempo.
Eles conseguem transformar julgamentos de valor pouco claros em princípios que um modelo possa seguir.
Em segundo lugar, o treinamento filosófico também pode reduzir o excesso de confiança da IA e a tendência a agradar.
A IA costuma dar respostas afirmativas quando está incerta e continuar respondendo de acordo com as opiniões do usuário.
O treinamento filosófico valoriza verificar premissas e argumentações; perguntas contínuas no estilo socrático podem fazer o modelo identificar contradições e admitir os limites do seu conhecimento.
Por fim, filósofos podem ajudar a IA a lidar com escolhas que não têm resposta padrão.
Quando um acidente acontece na direção automatizada, como reduzir danos, e quando um modelo de apoio emocional se depara com risco de autoagressão, como responder — não há respostas simples.
Filósofos estudam essas questões há muito tempo: eles confirmam quais linhas de segurança não podem ser ultrapassadas e, em seguida, analisam quais consequências cada escolha pode causar.