Autoridades governamentais e executivos da indústria de IA concordaram na terça-feira em aplicar medidas elementares de segurança num campo em rápida evolução e estabelecer uma rede internacional de pesquisa de segurança.
Quase seis meses após a cimeira global inaugural sobre segurança da IA em Bletchley Park, na Inglaterra, a Grã-Bretanha e a Coreia do Sul acolhem a cimeira de segurança da IA esta semana em Seul. A reunião destaca os novos desafios e oportunidades que o mundo enfrenta com o advento da tecnologia de IA.
O governo britânico anunciou na terça-feira um novo acordo entre 10 países e a União Europeia para estabelecer uma rede internacional semelhante ao AI Safety Institute do Reino Unido, que é a primeira organização do mundo com apoio público, para acelerar o avanço da ciência da segurança da IA. A rede promoverá um entendimento comum da segurança da IA e alinhará o seu trabalho com investigação, normas e testes. Austrália, Canadá, UE, França, Alemanha, Itália, Japão, Singapura, Coreia do Sul, Reino Unido e EUA assinaram o acordo.
No primeiro dia da Cimeira da IA em Seul, os líderes globais e as principais empresas de IA reuniram-se para uma reunião virtual presidida pelo primeiro-ministro do Reino Unido, Rishi Sunak, e pelo presidente sul-coreano, Yoon Suk Yeol, para discutir a segurança, a inovação e a inclusão da IA.
Durante as discussões, os líderes concordaram com a abordagem mais ampla Declaração de Seulenfatizando o aumento da colaboração internacional na construção de IA para abordar grandes questões globais, defender os direitos humanos e colmatar lacunas digitais em todo o mundo, ao mesmo tempo que dá prioridade a ser “centrado no ser humano, digno de confiança e responsável”.
“A IA é uma tecnologia extremamente interessante – e o Reino Unido liderou esforços globais para lidar com o seu potencial, acolhendo a primeira Cimeira de Segurança da IA do mundo no ano passado”, disse Sunak num comunicado do governo do Reino Unido. “Mas para obter vantagens, devemos garantir que seja seguro. É por isso que estou muito satisfeito por termos hoje um acordo para uma rede de institutos de segurança de IA.”
Ainda no mês passado, o Reino Unido e os EUA selou um memorando de entendimento de parceria colaborar em pesquisas, avaliação de segurança e orientação sobre segurança de IA.
O acordo anunciado hoje segue os primeiros compromissos de segurança de IA do mundo de 16 empresas envolvidas em IA, incluindo Amazon, Anthropic, Cohere, Google, IBM, Inflection AI, Meta, Microsoft, Mistral AI, Open AI, Samsung Electronics, Technology Innovation Institute, xAi e Zhipu.ai. (Zhipu.ai é uma empresa chinesa apoiada pela Alibaba, Ant e Tencent.)
As empresas de IA, incluindo as dos EUA, China e Emirados Árabes Unidos (EAU), concordaram com os compromissos de segurança de “não desenvolver ou implantar um modelo ou sistema se as mitigações não puderem manter os riscos abaixo dos limites”, de acordo com à declaração do governo do Reino Unido.
“É a primeira vez no mundo que tantas empresas líderes de IA de tantas partes diferentes do globo concordam com os mesmos compromissos em relação à segurança da IA”, disse Sunak. “Esses compromissos garantem que as principais empresas de IA do mundo fornecerão transparência e responsabilidade em seus planos para desenvolver IA segura.”
