Dubai Telegraph - Começa no Reino Unido a 1ª cúpula mundial sobre riscos da IA

A atual revolução tecnológica suscita paixões, mas também temores, que vão dominar os dois dias de debates na reunião, que acontece em Bletchley Park (centro), onde fica a emblemática sede em que foram decifradas as comunicações durante a Segunda Guerra Mundial.

No primeiro dia, os participantes abordarão os possíveis riscos da IA de ponta, como o polêmico robô ChatGPT.

A vice-presidente dos Estados Unidos, Kamala Harris, anunciará em Londres, nesta quarta à tarde, a criação de um instituto sobre a segurança da IA em Washington, que reunirá especialistas para estabelecer "diretrizes" e "identificar e mitigar" os riscos dessa tecnologia, conforme documento da Casa Branca.

Na quinta-feira, representantes políticos de alto nível, incluindo a presidente da Comissão Europeia, Ursula von der Leyen, e o secretário-geral da ONU, António Guterres. Apesar da tensão e do medo da espionagem industrial, a China também estará representada.

Também participarão estrelas do setor do Vale do Silício, como Sam Altman e Elon Musk, cofundadores da OpenAI, empresa que criou o ChatGPT.

- "A portas fechadas" -

Capazes de produzir textos, sons, ou imagens, em apenas alguns segundos com base em uma solicitação, as IAs generativas fizeram avanços gigantescos nos últimos anos. E as próximas gerações desses modelos serão lançadas em alguns meses.

A tecnologia suscita grandes esperanças na medicina, ou na educação, mas também pode desestabilizar sociedades, permitindo fabricar armas, ou escapando ao controle humano, advertiu o governo britânico.

Em uma carta aberta publicada na terça-feira, vários dos "pais fundadores" dessa tecnologia, como Yoshua Bengio e Geoffrey Hinton, pediram "a elaboração e a ratificação de um tratado internacional sobre IA", para reduzir os "riscos potencialmente catastróficos que os sistemas avançados representam para a humanidade".

O governo britânico espera, no mínimo, conseguir uma "primeira declaração internacional sobre a natureza" dos riscos dessa tecnologia. Também propõe a criação de um grupo de analistas internacionais, inspirado no modelo do Painel de Especialistas em Mudanças Climáticas da ONU (IPCC, na sigla em inglês).

"Esta cúpula nos dá a oportunidade de garantir que temos boas pessoas com boas competências à volta da mesa para discutir como podemos reduzir estes riscos no futuro", disse a ministra Michelle Donelan na terça-feira.

O principal desafio é definir salvaguardas sem impor obstáculos à inovação nos laboratórios de IA e nos gigantes tecnológicos.

União Europeia (UE) e Estados Unidos escolheram a regulamentação.

O presidente americano, Joe Biden, anunciou na segunda-feira (30) um amplo conjunto de normas e princípios para "liderar o caminho" em nível internacional.

Várias empresas, como OpenAI, Meta (Facebook) e DeepMind (Google), concordaram na semana passada em tornar públicas algumas das suas regras de segurança de IA, depois da solicitação do Reino Unido.

Em uma carta aberta dirigida ao primeiro-ministro britânico, Rishi Sunak, quase 100 organizações, especialistas e ativistas internacionais lamentaram que essa reunião aconteça "a portas fechadas", dominada por gigantes da tecnologia e com acesso limitado à sociedade civil.

"Temos que parar de pensar que as empresas privadas com fins lucrativos são as únicos proprietárias possíveis e legítimas dos sistemas de IA que estão transformando nossas vidas e nossas formas de trabalhar", afirmou Sasha Costanza-Chock, professora do Berkman Klein Center, na Universidade de Harvard, em entrevista coletiva.

D.Naveed--DT