Indústria da AI ficou rica com algo que ninguém pediu

Os algoritmos de emprego discriminam com base em nomes, classe, gênero, sexualidade e assim por diante. Análises de como a OpenAI recomenda trabalhos com base em currículos mostram isso. O experimento considerou documentos com conteúdo igual e mudou só o nome dos candidatos, que variava para mulheres e homens e eram associados a pretos, latinos, afroamericanos e asiáticos. Trabalhos top como engenharia de software eram direcionados a homens brancos e asiáticos. Já empregos como os de cuidados domésticos eram enviados a mulheres latinas e negras.
Alunos usam IA sem saber como ela é feita
A IA generativa realmente revolucionou a educação, não necessariamente de forma positiva. Algumas instituições de ensino já criaram suas próprias políticas. Umas proíbem a IA, outras liberam o estudante para usar quando quiser. Mas falta uma coisa.
Na hora de ensinar, nós tendemos a pensar que há uma hierarquia: por terem mais poder, os professores dizem algo, e os alunos devem apenas fazer. Essa dinâmica tem que mudar. Precisamos treinar os alunos a serem adultos capazes de pensar criticamente. No caso das AI generativas, a avaliação é sobre se são boas ou não, se escrevem bem, se criam bons códigos ou se ajudam com a lição de casa. E isso só leva em conta o algoritmos em si.
Nós estamos perdendo a conversa de quão falhas e pouco confiáveis esses sistemas são. Os alunos que querem usá-los até sabem que esses sistemas alucinam, mas ainda assim produzem quantidades massivas de informação não confiável.