Qual é a desse Cara? O novo app para proteger artistas das IAs

Com a escolha de algumas redes sociais como o Meta de utilizar o conteúdo dos seus usuários para treinar IAs, surge o Cara, um app que promete proteger sua arte contra o uso indevido. Contudo, fica uma questão: vale a pena sair das outras redes para esse app?

Quem a IA vai substituir?

“Quero que a IA lave minha roupa e meus pratos para que eu possa fazer arte e escrever, não que a IA faça minha arte e escrita para que eu possa lavar minha roupa e pratos”. Essa foi uma postagem recente da autora Joanna Maciejewska no X e que rapidamente viralizou.

Primeiramente, a IA generativa se desenvolveu como um tipo de tecnologia de aprendizado profundo em que novos conteúdos, como textos ou imagens, podem ser criados com base nos dados que ela coletou. Nos últimos anos, essa tecnologia cresceu em popularidade com aplicações visuais como o DALL-E 3 ou Midjourney, que criam imagens com base em prompts de texto. Além disso, muitos aplicativos populares de edição de fotos, como o Adobe Photoshop, agora incluem um recurso de IA. Entretanto, uma questão fundamental no cerne da IA generativa gira em torno de onde vêm os dados para esse conteúdo.

Embora a tecnologia apresente uma ampla gama de usos e implementações, ela não está isenta de desvantagens. Elas frequentemente giram em torno do uso de dados, direitos autorais e regulamentação. Quando os artistas começaram a notar que sua arte original havia sido cooptada por modelos generativos, um apelo urgente foi feito para impedir que seu trabalho fosse coletado para construir os bancos de dados que os programas generativos usam. Ações coletivas têm chamado ainda mais atenção para os direitos autorais dos indivíduos e como a informação é coletada, reutilizada e remixada.

Mas quem é esse Cara?

Há alguns meses, um novo aplicativo de mídia social e portfólio chamado Cara surgiu com um objetivo duplo de criar um espaço para artistas compartilharem seu trabalho original e monitorar de perto a geração de IA não permitida. O aplicativo também incorpora uma ferramenta chamada Glaze, ou The Glaze Project, desenvolvida pelo SAND Lab da Universidade de Chicago “para proteger artistas humanos, interrompendo a imitação de estilo no treinamento de modelos de IA generativa.” Além de permitir que os artistas compartilhem seu trabalho em um ambiente livre de IA, a plataforma trabalha ativamente para evitar que as imagens sejam replicadas.

Criado pela fotógrafa Jingna Zhang e uma pequena equipe de engenheiros e colaboradores, Cara pretende se manter na vanguarda dos desenvolvimentos tecnológicos, defendendo os direitos dos artistas enquanto constrói uma ferramenta de networking eficaz. “O futuro das indústrias criativas exige compreensão e suporte sofisticados para ajudar artistas e empresas a se conectarem e trabalharem juntos,” diz a equipe. “Queremos fechar a lacuna e construir uma plataforma que, nós mesmos como criativos, gostaríamos de usar.

No fim de semana, Cara passou de alguns milhares de usuários para mais de 300.000 quando os usuários do Instagram começaram a compartilhar links para seus novos perfis, lançando a plataforma para o Top 5 na App Store dos EUA. Contudo, não foi sem alguns problemas de crescimento. A equipe teve que atualizar os servidores sete vezes para acompanhar a demanda, e está determinando como lidar de forma sustentável com o crescimento. Formatado como uma fusão de Instagram e Twitter, a interface é familiar e eficiente. Além disso, está rapidamente se tornando um hub para artistas que trabalham tanto no desenvolvimento de personagens digitais quanto analógicos, animação, ilustração e mais.

Vale sair de outras plataformas e ir para o Cara?

Como artistas, uma das principais prioridades é conseguir clientes. Apesar da iniciativa ser muito boa, ainda não dá pra avaliar se as empresas vão migrar para o app e buscar profissionais por lá. Pelo menos não da forma intensiva feita nas redes já estabelecidas. Além disso, após o hype de inicial, muitos aplicativos começam a perder popularidade depois de um tempo.

Uma opção é utilizar o app como um primeiro passo para postar em outras redes. Você pode postar seu trabalho no Cara ou utilizar diretamente a ferramenta Glaze. Então baixar o seu trabalho e postar em outras redes como instagram e LinkedIn. Isso dificulta o uso indevido por programas que treinam IAs e adiciona uma camada de proteção nos seus trabalhos.

Para adicionar ainda mais segurança você pode utilizar o Nightshade, uma ferramenta que “envenena” seus arquivos e confunde os programas de treinamento.

O que você acha? Vai testar o Cara.app ou vai esperar pra ver o que vai rolar?

Boa semana!

Daniel desligando.

Comentários

comments