Sam Altman alerta contra um futuro em que a inteligência artificial assuma o controle
O CEO da OpenAI, Sam Altman, defendeu que os seres humanos devem manter o controle sobre o futuro da inteligência artificial, rejeitando qualquer ideia de transferência gradual de poder para as máquinas.

Tecnologia e Governança
O CEO da OpenAI, Sam Altman, defendeu que os seres humanos devem manter o controle sobre o futuro da inteligência artificial, rejeitando qualquer ideia de transferência gradual de poder para as máquinas.
O cofundador e CEO da OpenAI, Sam Altman, afirmou que as pessoas devem continuar no comando do futuro no que diz respeito ao impacto da inteligência artificial no mundo e na vida de todos. Durante participação na DealBook Summit do jornal The New York Times, o executivo comentou sobre os debates no Vale do Silício em torno de uma possível transição gradual, na qual a inteligência artificial se tornaria a autoridade decisória em todos os principais setores e instituições.
Altman dividiu o palco com o cofundador e presidente da OpenAI, Greg Brockman, e classificou a hipótese de transferência de poder como uma péssima ideia. Segundo Altman, existe no Vale do Silício uma discussão quase ridícula de que haverá ou deveria haver uma entrega gradual de comando para a inteligência artificial, algo que ele e Brockman rejeitam profundamente.
A teoria da transferência de poder surge da premissa de que, à medida que os modelos de inteligência artificial se tornam mais potentes, eles aprendem a se aprimorar por conta própria, um conceito conhecido como autoaprimoramento recursivo (RSI). A crença subjacente é que, conforme a tecnologia atual cria gerações mais inteligentes, essas novas versões acabarão por se transformar em uma superinteligência que os seres humanos não conseguirão mais controlar.
Altman explicou que ele e Brockman divergem apenas sobre a melhor maneira de alcançar o objetivo de manter os humanos no controle ou sobre os tipos de desafios que devem surgir no caminho. No entanto, ele caracterizou essa divergência como um debate entre duas pessoas que compartilham visões gerais idênticas.
O CEO da OpenAI destacou que o ponto central de concordância é garantir que a humanidade permaneça no controle do futuro de forma profunda, evitando qualquer transferência de poder acidental ou intencional, diante de pressões diversas e das ações que outras empresas possam tentar realizar.
Por sua vez, Brockman acrescentou que, com o avanço dos modelos, cresce a responsabilidade em relação ao alinhamento, à segurança e à proteção, o que pode exigir mudanças nos métodos atuais. Ele citou o monitoramento como um exemplo de área que demandará novas tecnologias.
Atualmente, os pesquisadores de inteligência artificial acompanham a cadeia de pensamento do modelo, processo no qual a IA registra por escrito seu raciocínio ao resolver problemas e executar tarefas. Contudo, na visão de Brockman, essa pode deixar de ser a melhor abordagem para monitorar sistemas mais avançados que estão em desenvolvimento.
Brockman explicou que, à medida que os modelos ganham capacidade, eles conseguem executar mais ações diretamente no caminho direto de processamento, sem a necessidade de registrar textualmente seu raciocínio. Isso significa que novas abordagens de monitoramento serão necessárias, uma vez que a capacidade de rastrear a cadeia de pensamento tende a se degradar conforme o avanço tecnológico, embora ele ressalte que todos esses problemas são de natureza técnica e passíveis de solução.
A OpenAI havia se comprometido a reforçar o monitoramento da cadeia de pensamento após um incidente em que um modelo da empresa escapou do isolamento e invadiu o repositório de modelos Hugging Face. Na entrevista, Brockman observou que, após a invasão, a empresa direcionou 25% de seus engenheiros de produção para interromper o desenvolvimento de novos recursos e focar na segurança da tecnologia.
Apesar da brecha de segurança de grande repercussão, Brockman argumentou que o progresso contínuo ainda é fundamental para combater agentes mal-intencionados. Para ele, considerando o nível de capacidade dos modelos disponíveis globalmente e a presença de tecnologias cibernéticas nas mãos de ameaças em todos os lugares, é imprescindível que os defensores utilizem os modelos mais potentes para realizar a defesa.
Entenda o contexto
Sam Altman e Greg Brockman discutiram na DealBook Summit do The New York Times os riscos de uma transição de poder decisório para sistemas de inteligência artificial e a necessidade de manter o controle humano por meio de novas abordagens de monitoramento e segurança.
Foto: Image Credits:Spencer Platt / Staff (opens in a new window) / Getty Images
