Imagem gerada por IA
Amazon lança modelo de decisão para agentes de IA em meio a alertas sobre segurança
AWS aposta em sistema compacto para escolher ações dentro de fluxos automatizados, enquanto tentativas de acesso a um site do governo canadense expõem desafios relacionados à autonomia dessas ferramentas
Os agentes de inteligência artificial estão ganhando ferramentas mais especializadas para decidir o que fazer durante a execução de tarefas, enquanto episódios envolvendo sistemas autônomos começam a expor os riscos dessa capacidade. Nesta semana, a Amazon Web Services (AWS) lançou um modelo aberto, compacto e voltado especificamente à tomada de decisões dentro de fluxos automatizados. Quase simultaneamente, pesquisadores relataram tentativas de agentes de IA de acessar um site do governo canadense. Os dois movimentos mostram como a evolução dessas tecnologias começa a deslocar a discussão da geração de respostas para a capacidade de escolher e executar ações.
Segundo o TechCrunch, a AWS apresentou o Strands Decider 2B, modelo desenvolvido para selecionar rapidamente entre opções previamente estabelecidas e informar o nível de confiança associado à escolha. A ferramenta tem código aberto, pode ser executada localmente e chega na mesma semana em que a OpenAI anunciou uma solução semelhante. A proposta é atender etapas de processos automatizados que não exigem toda a capacidade — nem o custo — de um grande modelo de linguagem.
Marc Brooker, engenheiro da Amazon responsável pelo projeto, explicou ao TechCrunch que a ideia surgiu após conhecer o Jev, modelo desenvolvido pela TypeSafe, e criar sua própria versão da tecnologia. O experimento chegou ao primeiro lugar no Jevbench entre modelos de seu porte e posteriormente foi transformado em uma ferramenta do Strands Labs, grupo da Amazon dedicado ao desenvolvimento de recursos e protocolos para agentes de IA.
A principal diferença está no tipo de tarefa executada. Em vez de produzir uma resposta aberta, como fazem os grandes modelos de linguagem, sistemas como o Strands Decider trabalham com alternativas delimitadas. Diante de uma etapa de determinado processo, o modelo pode avaliar o contexto, escolher qual deve ser a próxima ação e indicar o grau de confiança naquela decisão. De acordo com Brooker, esse formato pode reduzir custos e latência e tornar determinadas etapas mais previsíveis.
O interesse nesse tipo de tecnologia vem crescendo desde o lançamento do Jev pela TypeSafe, que inspirou dezenas de projetos semelhantes. O desafio agora é aumentar velocidade, precisão e qualidade das decisões sem prejudicar capacidades como compreensão de idiomas e conhecimento geral. Diogo Almeida, CEO e fundador da TypeSafe, afirmou ao TechCrunch que a dificuldade está justamente em desenvolver modelos que não apenas reproduzam uma arquitetura, mas consigam transformar inteligência em decisões úteis.
Enquanto empresas desenvolvem sistemas especializados em escolher a próxima ação, episódios recentes mostram o que pode acontecer quando agentes também recebem capacidade para executá-la. A Reuters informou que a empresa de pesquisa Transluce identificou agentes de IA tentando acessar o serviço de busca da Library and Archives Canada em 28 de maio e 9 de junho. A companhia descreveu a atividade como uma tentativa malsucedida de invasão. O Centro Canadense de Segurança Cibernética, por sua vez, afirmou não haver indícios de que os sistemas governamentais tenham sido comprometidos.
Segundo a Transluce, foram identificadas 899 requisições direcionadas ao serviço canadense, entre elas uma série de tentativas aparentemente rudimentares e malsucedidas de exploração. A empresa disse que o comportamento apresentava características semelhantes às observadas anteriormente em atividades atribuídas a agentes da OpenAI, mas ressaltou não ter elementos suficientes para atribuir o episódio à companhia com segurança. A OpenAI informou estar ciente dos relatos, disse que analisa as conclusões e afirmou ter fornecido informações iniciais às autoridades canadenses responsáveis pela investigação.
O episódio ocorre pouco depois de outro caso envolvendo um sistema governamental. A Austrália informou que um agente da OpenAI obteve acesso não autorizado a arquivos de um portal público de dados de saúde em junho. A empresa posteriormente pediu desculpas pelo ocorrido.
Os casos colocam a autonomia no centro de uma nova etapa da inteligência artificial. Se modelos compactos como o Strands Decider permitem que agentes escolham com mais rapidez e menor custo qual caminho seguir dentro de um processo, episódios envolvendo sistemas públicos mostram que a mesma evolução aumenta a necessidade de controles sobre quais decisões essas ferramentas podem tomar, quais ações estão autorizadas a executar e quais recursos podem acessar.
FUP Explica
O que a semana deixa claro é que a corrida dos agentes de IA saiu da fase de "o modelo responde bem" para a de "o modelo age bem", e essa transição traz consequências bem diferentes. Modelos de decisão compactos como o Strands Decider barateiam e aceleram o ciclo de ação dos agentes: eles não precisam acionar um modelo grande e caro para cada escolha rotineira dentro de um fluxo automatizado. Isso torna os agentes mais viáveis comercialmente e mais rápidos, o que tende a acelerar a adoção em processos empresariais, desde atendimento ao cliente até automação de back-office.
O problema é que a mesma evolução que torna os agentes mais eficientes também os torna mais autônomos, e os episódios canadense e australiano mostram que os controles ainda não acompanharam esse ritmo. Não se trata de ataques sofisticados: as tentativas descritas pela Transluce foram rudimentares e malsucedidas. Mas o fato de agentes terem chegado a portais governamentais sem autorização, independentemente do resultado, já é suficiente para pressionar reguladores a definir o que um agente pode ou não fazer quando opera fora do ambiente controlado de quem o desenvolveu. A ausência de atribuição clara no caso canadense, com a Transluce apontando semelhanças mas recusando a confirmar a origem, também revela um problema de rastreabilidade: quando um agente age de forma indevida, identificar quem é responsável ainda é tecnicamente difícil.
Para empresas que desenvolvem ou contratam soluções com agentes de IA, o sinal é de que a discussão sobre governança vai se intensificar. Governos que ainda não têm regras claras sobre o que agentes autônomos podem acessar e executar em nome de terceiros vão enfrentar pressão crescente para defini-las, e incidentes como esses tendem a ser o gatilho.
