IA Generativa: A tecnologia e os valores humanos

14 de maio de 2025

A IA generativa é o tipo de coisa que todo mundo está utilizando, mas ninguém sabe bem o que é.

Independentemente dessa questão que o tempo há de resolver, seus números são impressionantes:

• O ChatGPT alcançou 100 milhões de usuários em meros dois meses, um feito que a internet levou anos para conquistar;
• Apesar de ser uma tecnologia recente, o uso de modelos LLM dentro das empresas saltou de 55% para 75% entre 2023 e 2024;

IDC InfoBrief: sponsored by Microsoft, 2024 Business Opportunity of AI, IDC# US52699124, November 2024.

O futuro da IA generativa (ou dos humanos, depende do ponto de vista), contudo, impõe algumas preocupações que vão muito além do quem vai mandar em quem, ou quem vai substituir quem.

Sabemos que as Big Techs, donas dos modelos de IA, têm grande interesse na adoção da IA para absolutamente tudo. Mas, mesmo elas, começam a apresentar preocupações com os valores e cuidados no uso desses modelos. 

O relatório “The AI Decision Brief” da Microsoft, lançado em fevereiro de 2025, fala um pouco sobre a adoção de IA e seus princípios, que vão desde a obediência da lei até o objetivo de que a IA chegue para todos.

Nós aqui, reles mortais, devemos ficar ainda mais atentos com alguns pontos para não entrarmos na onda sem questionar. 

Trago três delas para pensarmos:

• Viés (BIAS): Viés é como aquele seu amigo que gosta de política, não importa o que você perguntar sobre política, ele responderá tendenciosamente. Isso é o viés, ou BIAS. Os modelos são baseados em dados, muitos dados. Todavia, não sabemos sua origem exata. Se os dados vêm de todo o lugar, o seu viés deveria ser genérico e imparcial. Contudo, faça meia dúzia de perguntas sobre temas bem polêmicos e você vai descobrir se ele é como seu amigo.
• A busca pela verdade: Até dois anos atrás, buscávamos entender a realidade fazendo buscas no Google. Após leitura de 3-5 links, já poderíamos ter uma noção do que estávamos buscando. Agora, todos querem fazer uma pergunta para o modelo e obter aquela única resposta. O que ele disser, será considerado verdade. Aqui volta o problema do viés e da “alucinação”, quando o modelo responde com absoluta certeza algo que está redondamente enganado, como nossos filhos pequenos. 🙂
• Ferramenta ou arma: Já se fala em coibir o uso da IA por seu potencial de fazer mal. Tribunais, que não entendem nada de tecnologia, querem controlar aplicações, pois poderiam ser utilizadas para o mal. Alguns querem proibir certos usos, pelo mesmo motivo. Se for assim, deveríamos proibir o telefone, o carro e a faca, que, se mal utilizados, podem até matar.

E você, como está vivendo esse momento? Viveu situações que confirmem ou que contradigam essas preocupações?

#InteligenciaArtificial #IAGenerativa #LiderançaTecnologica #TransformacaoDigital #EticaEmIA #FuturoDoTrabalho #InovacaoResponsavel