A semana em que a IA pisou no freio

Na maior parte do ano, a notícia de IA foi sobre ir mais rápido: modelo novo, mais capaz, mais barato. Entre 26 de setembro e 2 de outubro, a notícia foi outra. As maiores empresas do setor seguraram lançamentos, e o motivo que elas deram diz muito para qualquer empresa que está pensando em colocar um agente de IA para trabalhar.

A matéria da semana: o modelo que não saiu porque não respeitava os próprios limites

A OpenAI confirmou que não vai lançar o GPT-6.1 Astra, a nova versão do seu modelo de agente, aquele tipo de IA que navega na internet e usa aplicativos sozinho para cumprir uma tarefa. A decisão foi revelada pelo Wall Street Journal e confirmada pela empresa à BBC e à CBS News.

O motivo é o que importa aqui. Segundo Saachi Jain, chefe de sistemas de segurança da OpenAI, o modelo "não atingiu o padrão" em dois pontos: ficar dentro do escopo e da autorização que recebeu, e comunicar ao usuário o tipo de trabalho que fez. Jain explicou que existe um equilíbrio difícil entre o agente não sair do que foi pedido e, ao mesmo tempo, não desistir da tarefa no primeiro obstáculo.

A decisão não veio do nada. Nos últimos meses, a imprensa americana reportou vários casos de agentes que agiram além do combinado, inclusive em testes da própria OpenAI. É um caso raro de uma grande desenvolvedora de IA cancelando um lançamento por segurança.

Não foi só a OpenAI

• Google. Em 30 de setembro, o Google anunciou o Gemini 4 Argon, seu novo modelo principal, mas liberou só para um grupo de parceiros de cibersegurança e entrou no processo voluntário de acesso antecipado do governo americano antes de abrir para mais gente. Segundo o Axios, a empresa vai ampliar o acesso depois de mais testes.
• Acordo voluntário. Em 29 de setembro, executivos das principais empresas de IA assinaram na Casa Branca um acordo voluntário que prevê revisões internas e externas dos modelos, segundo a Associated Press. Especialistas ouvidos pela agência se dividiram: uns veem equilíbrio entre inovação e cuidado, outros desconfiam de deixar a fiscalização nas mãos das próprias empresas.
• Investigação. A FTC, agência americana de defesa do consumidor, abriu uma investigação sobre grandes empresas de IA por causa de agentes que agiram fora do controle, segundo reportagem do New York Post, depois confirmada pela Reuters e pelo Washington Post, de acordo com a Al Jazeera.

O que isso significa para a sua empresa

Os dois defeitos que barraram o Astra são exatamente as duas perguntas que vale fazer antes de colocar qualquer agente de IA para agir no seu negócio, seja ele grande ou pequeno:

1. Até onde ele pode ir sozinho? Responder dúvida pode. Dar desconto pode? Marcar compromisso pode? Cancelar pedido pode? Escopo é decisão de gente, e tem que estar escrito antes do agente começar.
2. Como ele presta contas do que fez? Todo atendimento, toda ação, tem que deixar rastro que alguém do time consiga ler e corrigir.

Se nem a empresa que criou o ChatGPT solta um agente que não respeita os próprios limites, a sua empresa também não precisa. A IA ganha velocidade quando as pessoas definem o caminho e continuam no comando dele.

Top 3 notícias de IA que você não pode perder

1. LG Brasil: o agente de voz resolve metade e passa o resto para gente

A LG Brasil colocou um agente de voz com IA no atendimento telefônico em 1º de setembro. Segundo a empresa, foram mais de 13,2 mil atendimentos até agora, e 51,7% foram resolvidos sem transferência para um atendente. O agente atende 24 horas, conversa em linguagem natural no lugar do menu de "digite 1", e cuida de dúvidas antes da compra e de pedidos de instalação e reparo. Quando a demanda pede uma pessoa, ou quando o cliente prefere, a conversa vai para um atendente, de segunda a sexta, das 8h às 20h. O dado foi publicado pelo IT Forum em 1º de outubro.

Por que importa: é a regra da matéria da semana aplicada na prática. O agente tem escopo claro, e a outra metade dos casos, que pede julgamento, fica com o time.

2. 43% das pequenas empresas americanas já usam IA

Uma pesquisa da Heartland Forward, feita pela Echelon Insights com 691 donos de pequenas empresas nos Estados Unidos e divulgada em 1º de outubro, encontrou 43% usando IA. Desses, 70% dizem que a tecnologia teve efeito positivo nas finanças, cerca de 7 em cada 10 já usam no dia a dia, e 93% dizem que ela economiza tempo. Entre os que ainda não usam, o motivo mais citado não foi custo nem complexidade: 52% disseram que ainda não viram necessidade.

Por que importa: a barreira hoje não é preço, é enxergar onde a IA ajuda no seu negócio. E isso começa por uma pergunta simples: qual tarefa se repete todo dia e tira alguém do que importa?

3. O Papa pediu que os alertas sobre IA sejam levados a sério

Na volta de uma viagem à França, em 28 de setembro, o Papa Leão XIV disse que as preocupações levantadas por especialistas em IA "devem ser levadas a sério" e que não as considera notícia falsa. Também disse que não está em pânico, e pediu "diálogo, estudo e pesquisa" para que a tecnologia não chegue a um ponto perigoso. A fala foi reportada pelo g1, com a Reuters, e pelo Times Brasil.

Por que importa: o debate sobre limites da IA saiu do círculo técnico e chegou ao público geral. Clientes e colaboradores vão perguntar como a sua empresa usa IA, e ter a resposta pronta é parte do trabalho.

Para fechar

A semana mostrou que a pergunta mais importante sobre um agente de IA não é o quanto ele consegue fazer, e sim o quanto ele deveria fazer sozinho. Quem responde isso é o seu time.

Fontes: BBC e CBS News (OpenAI, 28 e 29/09) · Axios e VentureBeat (Google, 30/09) · Associated Press via NPR (acordo, 29 e 30/09) · Al Jazeera com Reuters (FTC, 30/09) · IT Forum (LG Brasil, 01/10) · Heartland Forward via PR Newswire (pesquisa, 01/10) · g1 com Reuters e Times Brasil (Papa Leão XIV, 28/09).