
No cerne dessas preocupações está o desafio do preconceito algorítmico. À medida que os sistemas de IA são treinados com dados que refletem preconceitos arraigados, eles podem perpetuar e amplificar discriminações existentes, afetando adversamente grupos étnicos, gênero e minorias. A discriminação algorítmica torna-se um problema real que demanda atenção e ação imediata para garantir que a IA seja uma força positiva na sociedade.
Como resposta a esses desafios, ganha força o apelo por uma regulamentação eficaz da IA. Em maio de 2023, nos EUA, um grupo distinto de 350 cientistas e especialistas em IA, incluindo líderes da indústria incluindo o CEO da OpenAI, Sam Altman, Bill Gates, executivos C-level do Google e da Microsoft e acadêmicos de renome, emitiu um chamado urgente. Eles alertaram que a mitigação dos riscos associados à IA deve ser uma prioridade global, ao lado de ameaças tradicionais, como pandemias e guerra nuclear. Esse apelo ressalta a necessidade crítica de adotar uma abordagem regulatória abrangente para moldar o desenvolvimento da IA de forma segura e ética.
