7 empresas de IA concordam com salvaguardas, diz administração Biden

Sete empresas líderes de IA nos Estados Unidos concordaram com salvaguardas voluntárias no desenvolvimento da tecnologia, anunciou a Casa Branca na sexta-feira, comprometendo-se a gerenciar os riscos de novas ferramentas, mesmo quando competem pelo potencial da inteligência artificial.

Sete empresas – Amazon, Anthropic, Google, Inflection, Meta, Microsoft e OpenAI – anunciaram formalmente seu compromisso com novos padrões nas áreas de segurança, proteção e confiança em uma reunião com o presidente Biden na Casa Branca na tarde de sexta-feira.

Em breves comentários da Sala Roosevelt na Casa Branca, o Sr. “Precisamos ser claros e conscientes das ameaças que as tecnologias emergentes representam para nossa democracia e nossos valores”, disse Biden.

“É uma responsabilidade séria. Temos que acertar”, disse, acrescentando que os executivos das empresas. “E há uma energia enorme, enorme de cabeça para baixo.”

O anúncio ocorre quando as empresas correm para superar umas às outras com versões de IA que oferecem novas e poderosas maneiras de criar textos, fotos, músicas e vídeos sem intervenção humana. Mas os saltos tecnológicos alimentaram o medo da disseminação de desinformação e alertas terríveis sobre o “perigo de extinção” à medida que os computadores autoconscientes evoluem.

As proteções voluntárias são apenas um passo inicial e temporário, à medida que os governos de Washington e de todo o mundo correm para estabelecer a estrutura legal e regulatória para o desenvolvimento da inteligência artificial. Os acordos incluem testar produtos para riscos de segurança e usar marcas d’água para garantir que os consumidores possam identificar produtos gerados por IA.

O anúncio de sexta-feira reflete a urgência do governo Biden e dos legisladores em responder à tecnologia em rápida evolução, mesmo quando os legisladores lutam para regular as mídias sociais e outras tecnologias.

“Nas próximas semanas, continuarei a tomar medidas executivas para orientar a América em direção à inovação responsável”, disse o Sr. disse Biden. “E vamos trabalhar com ambas as partes para desenvolver legislação e regulamentação apropriadas.”

A Casa Branca não forneceu detalhes de uma futura ordem executiva presidencial que lidaria com uma questão maior de restringir a capacidade da China e de outros concorrentes de adquirir novos programas de inteligência artificial ou os componentes usados ​​para construí-los.

READ  Reino Unido suspende negociações comerciais com Canadá sobre hormônios e proibição de carne bovina

Isso inclui novas restrições a semicondutores avançados e restrições à exportação de modelos em grande escala. Eles são difíceis de controlar – a maioria dos softwares pode caber em um pen drive e compactar.

Uma ordem executiva provavelmente provocaria mais oposição da indústria do que os compromissos voluntários de sexta-feira, que, segundo especialistas, já se refletiam nas práticas das empresas envolvidas. As promessas não atrapalham os projetos das empresas de IA nem o desenvolvimento de suas tecnologias. Como obrigações voluntárias, elas não são aplicadas por reguladores governamentais.

Nick Clegg, chefe de assuntos globais da Meta, empresa controladora do Facebook, disse em um comunicado: “Estamos muito satisfeitos por assumir esses compromissos voluntários junto com outros no setor.

Como parte das medidas de segurança, as empresas concordaram em:

  • Testes de segurança de seus produtos de IA, em parte compartilhando informações sobre seus produtos com especialistas independentes e governos e outros que tentam gerenciar os riscos da tecnologia.

  • Garantir que os consumidores possam identificar o conteúdo gerado pela IA implementando marcas d’água ou outros meios de identificação do conteúdo gerado.

  • Relatar publicamente e regularmente as capacidades e limitações de seus sistemas, incluindo evidências de riscos de segurança e viés.

  • Usando ferramentas avançadas de inteligência artificial para enfrentar os maiores desafios da sociedade, como curar o câncer e combater as mudanças climáticas.

  • Realizar pesquisas sobre os riscos de preconceito, discriminação e invasão de privacidade a partir da disseminação de ferramentas de IA.

Em um comunicado anunciando os acordos, o governo Biden disse que as empresas devem garantir que “a inovação não ocorra às custas dos direitos e da segurança dos americanos”.

“As empresas que desenvolvem essas tecnologias emergentes têm a responsabilidade de garantir que seus produtos sejam seguros”, afirmou o governo em comunicado.

Brad Smith, presidente da Microsoft e um dos executivos que participaram da reunião na Casa Branca, disse que sua empresa aprovou as salvaguardas voluntárias.

“Agindo rapidamente, os compromissos da Casa Branca criam uma base que ajudará a garantir que a promessa da IA ​​supere seus riscos”, disse o Sr. Smith disse.

READ  Os futuros de ações estão em alta à medida que os investidores aguardam o principal relatório de inflação: os anúncios ao vivo

Anna Mahanju, vice-presidente de assuntos globais da OpenAI, descreveu-o como “parte de nossa colaboração contínua com governos, organizações da sociedade civil e outros em todo o mundo para promover a governança de IA”.

Para as empresas, os padrões descritos na sexta-feira servem a dois propósitos: uma tentativa de impedir ou moldar movimentos legislativos e regulatórios em direção ao autopoliciamento e um sinal de que estão lidando com essa nova tecnologia de maneira ponderada e proativa.

Mas as regras com as quais eles concordam geralmente são o menor denominador comum e podem ser interpretadas de maneira diferente por cada organização. Por exemplo, as empresas estão comprometidas com a segurança cibernética rigorosa em torno dos dados e do código usados ​​para construir os “modelos de linguagem” a partir dos quais os programas de IA generativos são construídos. Mas não há detalhes sobre o que isso significa – e as empresas farão questão de proteger sua propriedade intelectual de qualquer maneira.

Mesmo as empresas mais cuidadosas são vulneráveis. Microsoft, Sr. Uma das empresas que participou de um evento na Casa Branca com Biden na semana passada lutou contra o hacking orquestrado pelo governo chinês dos e-mails privados de autoridades americanas que lidam com a China. A China parece ter roubado ou de alguma forma obtido a “chave privada” da Microsoft, a chave para autenticar e-mails – um dos códigos mais bem guardados da empresa.

Como resultado, é improvável que o acordo diminua os esforços para legislar e impor restrições à tecnologia emergente.

Paul Barrett, vice-diretor do Stern Center for Business and Human Rights da Universidade de Nova York, disse que mais deve ser feito para proteger a sociedade dos perigos que a inteligência artificial representa.

“Os compromissos voluntários anunciados hoje são inexequíveis, e é por isso que é imperativo que o Congresso e a Casa Branca trabalhem juntos para promulgar imediatamente uma legislação que exija transparência, proteção à privacidade e acelere pesquisas amplas sobre os riscos apresentados pela IA”, disse o Sr. Barrett disse em um comunicado.

READ  Príncipe Harry e Meghan dizem que foram seguidos por paparazzi em Nova York

Os reguladores europeus estão prestes a adotar leis de IA ainda este ano, levando muitas empresas a promover os regulamentos dos EUA. Vários legisladores apresentaram projetos de lei que incluem o licenciamento de empresas de IA para publicar suas tecnologias, a criação de uma agência federal para supervisionar o setor e os requisitos de privacidade de dados. Mas os membros do Congresso discordam sobre as regras e estão correndo para se educar sobre a tecnologia.

Os legisladores estão tentando descobrir como lidar com a ascensão da tecnologia de IA, com alguns focados nos riscos para os consumidores e outros profundamente preocupados em ficar para trás dos rivais, especialmente a China, na corrida para dominar o campo.

Esta semana, o Comitê Seleto da Câmara sobre Competição Estratégica com a China enviou cartas bipartidárias a empresas de capital de risco sediadas nos EUA exigindo que prestassem contas de seus investimentos em empresas chinesas de IA e semicondutores. As cartas chegam nos meses desde que vários painéis da Câmara e do Senado questionaram os empresários e críticos mais influentes da indústria de IA para decidir que tipo de proteções e incentivos legais o Congresso deveria explorar.

Muitas dessas testemunhas, incluindo Sam Altman, da start-up OpenAI de São Francisco, apontaram para o potencial da nova tecnologia de causar danos desnecessários e apelaram aos legisladores para regular a indústria de IA. Mas essa regulamentação está avançando lentamente no Congresso, onde muitos legisladores ainda lutam para entender exatamente o que é a tecnologia de IA.

Em um esforço para melhorar a compreensão dos legisladores, o senador Chuck Schumer, democrata de Nova York, lançou uma série de sessões de escuta para os legisladores neste verão para ouvir funcionários do governo e especialistas sobre os benefícios e riscos da inteligência artificial em muitos campos.

Senhor. Schumer também redigiu uma emenda à versão do Senado do projeto de lei de autorização de defesa deste ano

Karoon Demirjian Relatório contribuído de Washington.

Deixe um comentário

O seu endereço de email não será publicado. Campos obrigatórios marcados com *