Google, Microsoft, OpenAI e outras gigantes prometem ‘botão de destruição’ para pausar IA

Um grupo de 16 empresas de tecnologia confirmou nesta terça-feira (21) que fará um tratado sobre o campo de inteligência artificial (IA). O documento envolverá principalmente questões de segurança.

Representantes de companhias envolvidas com IA se reuniram no AI Seoul Summit, evento na Coreia do Sul que contou também com a presença de membros de governos de várias partes do mundo. Eles participaram dos debates para garantir o alinhamento em políticas sobre o tema.

As companhias que assinaram o tratado são as seguintes, em ordem alfabética:

  • Amazon
  • Anthropic
  • Cohere
  • Google (DeepMind)
  • G42
  • IBM
  • Inflection AI
  • Meta
  • Microsoft
  • Mistral AI
  • Naver
  • Open AI
  • Samsung
  • Technology Innovation Institute
  • xAI
  • Zhipu.ai

A lista inclui nomes populares do setor, como OpenAI, que é a dona do ChatGPT, e o laboratório experimental DeepMind da Google. Companhias de menor porte e cada vez mais populares, como MistralAI, Anthropic e a xAI de Elon Musk também integram o documento.

Do que se trata o novo acordo internacional sobre IA

O principal ponto do acordo internacional está na segurança do desenvolvimento de IAs e no uso de modelos de linguagem que alimentam essas plataformas. Um dos objetivos é impedir o uso criminoso ou mal intencionado dessas tecnologias.

As empresas se comprometeram ainda a publicarem detalhes estruturais sobre como essa avaliação vai acontecer. Elas ainda vão estabelecer limites “intoleráveis” para o uso de IAs, como a aplicação em cibercrimes ou desenvolvimento de armas biológicas, por exemplo.

A OpenAI, do ChatGPT, foi uma das participantes da conferência.Fonte:  Getty Images/Reprodução 

Na pior das hipóteses, se uma empresa perder o controle sobre o uso de um modelo de linguagem, a plataforma precisa ter um “botão de destruição” para pausar na hora o desenvolvimento ou o fornecimento da tecnologia até que os riscos sejam contidos.

Além do tratado entre as empresas, que é de adesão voluntária e será complementado a partir de agora, governos como o da União Europeia já tramitam possíveis projetos de regulamentação da IA.

Os governos que participaram do evento se comprometeram a construir uma rede de institutos de pesquisa avançada para testar e estudar as tecnologias desenvolvidas por essas companhias.

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *