Os impactos das regulamentações de IA nos planos dos CIOs

A rápida expansão e implementação da Inteligência Artificial (IA) em todas as organizações resultou em um amplo impulso global para regular a IA. Até 2026, o Gartner prevê que 50% dos governos em todo o mundo aplicarão o uso de IA responsável por meio de regulamentações, políticas e a necessidade de privacidade de dados.

No site do Gartner, Anushree Verma, analista diretora da empresa, respondeu algumas perguntas e discutiu o impacto das regulamentações de IA nos planos futuros dos CIOs e o que eles podem fazer para implementar IA responsável em suas organizações.

O Gartner prevê que, até 2026, 50% dos governos em todo o mundo aplicarão o uso de IA responsável por meio de regulamentos, políticas e a necessidade de privacidade de dados. Quais são as implicações deste tipo de regulamentação?

As regulamentações de IA responsável erguerão fronteiras geográficas no mundo digital e criarão uma rede de regulamentações concorrentes de diferentes governos para proteger as nações e suas populações de aplicações antiéticas ou indesejáveis de IA e GenAI. Isso . Essas regulamentações exigirão que os desenvolvedores de IA se concentrem em mais ética, transparência e privacidade de IA por meio do uso responsável de IA em todas as organizações.

“IA responsável” é um termo genérico para aspectos de fazer as escolhas comerciais e éticas apropriadas ao adotar a IA no contexto da organização. Exemplos incluem ser transparente com o uso de IA, mitigar o viés nos algoritmos, proteger os modelos contra subversão e abuso e proteger a privacidade das informações dos clientes e a conformidade regulatória. A IA responsável operacionaliza responsabilidades e práticas organizacionais que garantem o desenvolvimento e a utilização positiva e responsável da IA.

O desenvolvimento e o uso de IA responsável não serão cruciais apenas para desenvolvedores de produtos e serviços de IA, mas também para organizações que usam ferramentas de IA. O não cumprimento expõe as organizações ao escrutínio ético dos cidadãos em geral, levando a riscos financeiros, reputacionais e legais significativos para a organização.

Quando a IA responsável se tornará mainstream?

A IA responsável está a apenas três anos de atingir a adoção majoritária antecipada devido à adoção acelerada de IA, particularmente a GenAI, e à crescente atenção às implicações regulatórias associadas.

A IA responsável impactará praticamente todas as aplicações de IA em todos os setores. No curto prazo, setores mais regulamentados, como serviços financeiros, saúde, tecnologia e governo, continuarão sendo os primeiros a adotar a IA responsável. No entanto, a IA responsável também desempenhará um papel importante em setores menos regulamentados, ajudando a construir a confiança do consumidor e promover a adoção, bem como mitigar riscos financeiros e legais.

Que ações as organizações devem tomar para preparar seus projetos GenAI para o futuro com as regulamentações governamentais atuais e futuras possíveis em mente?

Existem várias ações que as organizações podem considerar quando se trata de preparar seus projetos GenAI para o futuro:

– Monitore e incorpore os requisitos de conformidade em evolução da IA responsável de diferentes governos, desenvolvendo uma estrutura que mapeia o portfólio de produtos e serviços GenAI da organização para os requisitos regulatórios de IA das diferentes nações.
Entender, implementar e utilizar práticas responsáveis de IA contextualizadas à organização. Isso pode ser feito determinando um currículo para IA responsável e, em seguida, estabelecendo uma abordagem estruturada para educar e criar visibilidade em toda a organização, envolver as partes interessadas e identificar os casos de uso e soluções apropriados para implementação.

– Operacionalize o gerenciamento de confiança, risco e segurança de IA (AI TRiSM) em soluções centradas no usuário, integrando IA responsável para acelerar a adoção e melhorar a experiência do usuário.

– Garanta a responsabilidade do provedor de serviços pela governança responsável de IA, impondo obrigações contratuais e mitigando o impacto de riscos decorrentes de comportamentos antiéticos e não conformes ou resultados de vieses não controlados e inexplicáveis de soluções de IA.