Google, Microsoft, OpenAI e outras gigantes prometem 'botão de destruição' para pausar IA

Um grupo de 16 empresas de tecnologia confirmou nesta terça-feira (21) que fará um tratado sobre o campo de inteligência artificial (IA). O documento envolverá principalmente questões de segurança.

Representantes de companhias envolvidas com IA se reuniram no AI Seoul Summit, evento na Coreia do Sul que contou também com a presença de membros de governos de várias partes do mundo. Eles participaram dos debates para garantir o alinhamento em políticas sobre o tema.

• Saiba mais: Como a regulamentação das IAs pode impactar o cenário da cibersegurança?

As companhias que assinaram o tratado são as seguintes, em ordem alfabética:

• Amazon
• Anthropic
• Cohere
• Google (DeepMind)
• G42
• IBM
• Inflection AI
• Meta
• Microsoft
• Mistral AI
• Naver
• Open AI
• Samsung 
• Technology Innovation Institute
• xAI
• Zhipu.ai

A lista inclui nomes populares do setor, como OpenAI, que é a dona do ChatGPT, e o laboratório experimental DeepMind da Google. Companhias de menor porte e cada vez mais populares, como MistralAI, Anthropic e a xAI de Elon Musk também integram o documento.

Do que se trata o novo acordo internacional sobre IA

O principal ponto do acordo internacional está na segurança do desenvolvimento de IAs e no uso de modelos de linguagem que alimentam essas plataformas. Um dos objetivos é impedir o uso criminoso ou mal intencionado dessas tecnologias.

As empresas se comprometeram ainda a publicarem detalhes estruturais sobre como essa avaliação vai acontecer. Elas ainda vão estabelecer limites "intoleráveis" para o uso de IAs, como a aplicação em cibercrimes ou desenvolvimento de armas biológicas, por exemplo.

A OpenAI, do ChatGPT, foi uma das participantes da conferência.

Na pior das hipóteses, se uma empresa perder o controle sobre o uso de um modelo de linguagem, a plataforma precisa ter um "botão de destruição" para pausar na hora o desenvolvimento ou o fornecimento da tecnologia até que os riscos sejam contidos.

• Leia também: Brasil é o 15º país no ranking de preparo para inteligência artificial

Além do tratado entre as empresas, que é de adesão voluntária e será complementado a partir de agora, governos como o da União Europeia já tramitam possíveis projetos de regulamentação da IA.

Os governos que participaram do evento se comprometeram a construir uma rede de institutos de pesquisa avançada para testar e estudar as tecnologias desenvolvidas por essas companhias.