Imagem gerada por IA
Robôs com IA podem machucar pessoas? Empresa desenvolve testes para avaliar riscos
Safeworld reproduz situações de interação com humanos em ambientes digitais para investigar possíveis acidentes antes da implantação das máquinas
Um trabalhador surge atrás de uma esquina, tropeça diante de uma máquina ou se agacha perto de um braço robótico. Para equipamentos comandados por inteligência artificial generativa, responder com segurança a esses movimentos é um desafio que a Safeworld pretende investigar antes que um acidente aconteça. Apresentada em 5 de outubro, a empresa desenvolve simulações digitais que reproduzem encontros entre robôs e pessoas para avaliar riscos em ambientes compartilhados, como fábricas e canteiros de obras.
Segundo o TechCrunch, a proposta enfrenta uma dificuldade central da adoção dessa tecnologia: modelos de IA generativa têm comportamento probabilístico, o que torna suas respostas menos previsíveis do que as de algoritmos tradicionais. Por isso, demonstrar que um robô executa uma tarefa em uma apresentação controlada não basta para avaliar como ele reagirá às situações inesperadas do cotidiano.
Ding Zhao, diretor do laboratório Safe AI da Universidade Carnegie Mellon e cofundador da Safeworld, considera que o problema reúne duas exigências: avaliar o risco de um sistema probabilístico e conquistar a confiança das pessoas que irão conviver com ele. Sua preocupação está principalmente no uso em grande escala, quando as máquinas passam a circular perto de usuários que talvez nunca tenham operado um robô.
Para investigar esses riscos, a empresa cria uma representação digital do local onde o equipamento trabalhará. Nesse ambiente, insere um modelo do robô comandado pelo software real da máquina e executa milhares de cenários com representações de pessoas. O objetivo é observar como o sistema responde a diferentes comportamentos humanos e identificar situações que possam resultar em acidentes.
Uma esquina sem visibilidade em uma fábrica ajuda a explicar o método. Os testes podem avaliar qual velocidade e distância de frenagem são necessárias para evitar que o robô atinja alguém que apareça de repente. Outra questão é saber se a máquina consegue reconhecer uma pessoa carregando caixas que escondem parte de seu corpo.
Quedas também entram nas simulações. Kyle Wong, cofundador da empresa, explica que reproduzir esses episódios digitalmente permite testar as respostas do equipamento sem exigir que alguém tropece ou caia repetidamente diante dele. A dificuldade, porém, vai além de programar um único movimento: pessoas podem mudar de posição, correr ou agir de maneiras que o sistema precisa reconhecer.
Esse desafio já faz parte do trabalho da Gritt Robotics, parceira da Safeworld no desenvolvimento das simulações. A companhia cria sistemas de IA para robôs que ajudam trabalhadores a instalar painéis fotovoltaicos em grandes usinas solares e pretende assumir tarefas mais complexas na construção. Nesse contexto, evitar que um braço robótico atinja alguém é uma preocupação direta.
Vishal Dugar, diretor de tecnologia da Gritt Robotics, afirma que é difícil comprovar a segurança desses sistemas somente por cálculos e equações. A avaliação depende de testes que contemplem trabalhadores em pé, ajoelhados, agachados, correndo ou caindo. Também precisa considerar diferenças de roupa, altura, formato do corpo e outras características que podem influenciar a identificação de uma pessoa.
Além dessa diversidade, cada instalação apresenta condições próprias e diferentes exigências de segurança. Os fundadores defendem que uma avaliação independente complemente as ferramentas utilizadas pelos fabricantes e favoreça o compartilhamento de informações sobre situações de risco entre concorrentes.
A Safeworld foi criada por Zhao, Wong e pelo engenheiro de aprendizado de máquina Simo Rachidi e recebeu mais de US$ 12 milhões em uma rodada inicial liderada por Shine Capital e a16z Speedrun. A empresa ainda define se oferecerá uma plataforma para clientes ou serviços especializados. Tanto o negócio quanto o uso de IA generativa na robótica estão em estágio inicial: a proposta é investigar riscos antes da implantação, sem que a reportagem apresente os testes como garantia absoluta de segurança.
FUP Explica
O ponto central aqui é que a IA generativa introduz um tipo de imprevisibilidade que os métodos tradicionais de certificação de segurança não foram desenhados para lidar. Algoritmos clássicos seguem regras fixas e são mais fáceis de auditar; modelos probabilísticos podem reagir de formas diferentes diante de situações parecidas, o que torna a validação muito mais complexa. Isso cria um vácuo regulatório e técnico: como certificar que um robô é seguro quando nem sempre é possível prever exatamente o que ele vai fazer?
No plano econômico e industrial, a aposta da Safeworld aponta para um mercado que ainda está se formando. Fábricas e canteiros de obras querem automatizar processos, mas a responsabilidade civil por acidentes envolvendo robôs autônomos ainda é um terreno pouco mapeado juridicamente. Uma empresa que consiga oferecer laudos independentes de segurança pode se tornar parte obrigatória do processo de adoção dessas máquinas, especialmente se reguladores passarem a exigir esse tipo de avaliação antes da implantação.
No plano social, o impacto mais imediato é sobre os trabalhadores que dividem espaço com esses equipamentos, muitas vezes sem treinamento específico para isso. A diversidade de corpos, roupas e comportamentos que os testes precisam contemplar mostra que o problema não é só técnico: é também sobre garantir que sistemas desenvolvidos em laboratório funcionem de forma segura para pessoas reais, em condições reais de trabalho. O fato de a Safeworld ainda não ter definido seu modelo de negócio indica que o setor inteiro está tentando descobrir, ao mesmo tempo, como a tecnologia funciona e como ela deve ser governada.
