93% das pessoas têm preocupações relativas ao uso antiético da IA

Segundo a pesquisa “IA Generativa: O que o público consumidor espera”, da ThoughtWorks, empresa de consultoria global em tecnologia, 93% das pessoas têm preocupações éticas sobre a ferramenta. Dentre elas, 71% se afligem com o uso de seus Dados sem consentimento. O levantamento foi realizado com dez mil consumidores nos seguintes países: Austrália, Brasil, Alemanha, Índia, Itália, Holanda, Singapura, Espanha, Reino Unido e Estados Unidos. Todos os entrevistados tinham 18 anos ou mais e tinham conhecimento prévio do tema.

Desde o lançamento do ChatGPT, que em dois meses ganhou uma base de 100 milhões de usuários ativos, mais rápido do que qualquer outra plataforma, a popularização em massa do uso da IA gerou também um receio generalizado sobre suas potencialidades. Lucas Alencar, especialista em desenvolvimento de produtos e co-fundador da startup Adopets, salienta que o ceticismo em relação a tecnologias emergentes é natural.

“Um dos maiores obstáculos é a natureza ‘caixa-preta’ de muitos sistemas de IA, particularmente os modelos de aprendizado profundo. A opacidade dos processos de tomada de decisão dificulta a compreensão por parte até mesmo de especialistas, criando barreiras à confiança”. Ele acrescenta que à medida que a tecnologia começa a impactar positivamente diversos setores da sociedade tanto em termos de produtividade quanto financeiramente, incluindo novas práticas e metodologias de para testes e validação da segurança destes sistemas haverá aumento crescente na aceitação e confiabilidade dessas inovações.

Para ele, um dos maiores desafios envolvidos nesse processo é estabelecer um equilíbrio entre regulamentações que garantam segurança e confiabilidade, sem sufocar as possibilidades da inovação. Se a IA Generativa quiser ser sustentável a longo prazo, vai ser preciso considerar outras questões além das suas capacidades técnicas. “É fundamental garantir a proteção contra ataques, a operação confiável em diversos cenários e a salvaguarda da privacidade dos usuários”.

E, para que não se torne um conceito superestimado, Alencar avalia que a IA Generativa tem que focar em entregar valor tangível, garantindo que seu desenvolvimento seja guiado por princípios éticos. “Precisamos abordar as preocupações sobre privacidade, segurança e impacto no emprego dos consumidores. Além disso, o ideal é que ela seja implementada de maneira gradual, permitindo que as pessoas se adaptem e vejam os benefícios incrementais”, termina.