Daniel CavalcantiO CEO da OpenAI, Sam Altman, compareceu perante um painel do comitê judiciário do Senado, onde enfatizou a importância crucial de regulamentar a inteligência artificial (IA). Durante seu testemunho, Altman ressaltou os potenciais benefícios das tecnologias de IA para enfrentar desafios significativos, como as mudanças climáticas e o câncer. No entanto, ele também destacou a grande necessidade de mitigar os riscos associados aos modelos de IA cada vez mais poderosos.
Licenciamento para IA
Uma das propostas sugeridas foi a implementação de requisitos de licenciamento e testes para modelos de IA que ultrapassassem um determinado limiar de capacidades. Nesse sentido, ele fez questão de salientar o compromisso da OpenAI com a segurança e a realização de extensos testes antes de lançar quaisquer novos sistemas. De acordo com Altman, garantir a segurança da IA é uma prioridade absoluta para a empresa.
Durante a audiência, os senadores Josh Hawley e Richard Blumenthal demonstraram seu reconhecimento pela natureza transformadora da IA. Além disso, ressaltaram a importância de compreender as implicações dessa tecnologia para eleições, empregos e segurança. Para ilustrar o potencial da IA, Blumenthal reproduziu uma introdução em áudio usando um software de clonagem de voz de IA, treinado com base em seus discursos.
Blumenthal aproveitou a oportunidade para levantar uma série de preocupações relacionadas aos riscos associados à IA. Alguns deles são deepfakes, desinformação elevada, discriminação, assédio e fraude de impersonação. Além disso, ele enfatizou a possível ameaça de deslocamento de trabalhadores diante de uma nova revolução industrial impulsionada pela IA.
A concentração de poder
O chamado de Altman por regulamentação está em consonância com as preocupações levantadas por especialistas e éticos em IA, incluindo as ex-pesquisadoras do Google, Dra. Timnit Gebru e Meredith Whitaker. Essas profissionais argumentam que a rápida adoção da IA é frequentemente superestimada e que não traz consigo benefícios sociais inerentes.
Whitaker, em particular, destacou a concentração de poder nas mãos de poucas empresas de tecnologia e a capacidade que elas possuem de moldar cenários sociais e políticos por meio das tecnologias de IA. Ela expressou preocupações acerca das atuais dinâmicas de poder e ressaltou a necessidade urgente de uma distribuição mais equitativa das capacidades de IA.
Por fim, Whitaker alertou contra a ideia simplista de que a IA automaticamente conduzirá ao bem social ou garantirá acesso igualitário para todos. Segundo ela, essa visão é uma fantasia propagada para fins de marketing. Em vez disso, ela enfatizou a importância de reconhecer a concentração de poder existente e de assegurar que a IA seja utilizada em benefício de toda a sociedade.
Quer saber um pouco mais sobre as iniciativas de regulamentar a IA? Esse artigo mostra as decisões mais recentes que impactam a indústria criativa.
Fonte: AINews