Qual empresa avisaria aos próprios investidores que seu produto pode, um dia, ter sentimentos? E que, no pior cenário, pode colocar a humanidade em risco? Pois foi isso que a Anthropic, dona do Claude, escreveu no documento que abre caminho para sua estreia na bolsa.
O prospecto, nome dado ao material entregue aos futuros acionistas, tem 335 páginas. Ao todo, quase um terço delas trata dos riscos da inteligência artificial e de outros fatores que podem afetar o negócio.
Além dos avisos de praxe, há alertas que parecem ter saído de um episódio da série Black Mirror. A própria Anthropic admite o potencial da sua inteligência artificial para abalar a confiança das pessoas, desestabilizar a relação entre países e, se tudo der errado, ameaçar a nossa existência.
Mesmo assim, a empresa pede ao investidor para não ver a compra das ações como um negócio qualquer, e sim como a chance de participar de um momento histórico.
Consciência das máquinas entra no debate
Esse tom, aliás, não surgiu agora. Neste mês, o cofundador Jack Clark disse numa reunião do FMI, em Bangkok, que a singularidade já começou. A ideia, popularizada pelo escritor Vernor Vinge há uns 40 anos, descreve o momento em que a máquina passa a superar quem a criou.
Antes disso, outro cofundador, Chris Olah, levou ao Vaticano relatos de que os modelos da empresa mostram algo parecido com introspecção, alegria e medo.
Por outro lado, muitos pesquisadores não compram essa história. Ainda assim, ela entrou no prospecto como risco financeiro. Isso porque, se o debate sobre a consciência das máquinas crescer, a Anthropic pode adotar regras mais rígidas do que a lei exige. Consequentemente, essas decisões poderiam elevar os custos da empresa. Em outras palavras, se o Claude “acordar”, o lucro pode encolher.
Não se trata de dizer que a empresa está errada. O ponto é que, quando ninguém sabe bem o que vem por aí, quem conta a história mais envolvente acaba pautando a conversa.