Pior ainda se pensar que esses modelos não são agnosticos, e podem ser modificados para ter qualquer tipo de viés, como já vem sendo.
Pois, esse eu acho que é o primeiro e principal problema, antes mesmo do possível "roubo" de empregos.
Visto que o IA é desenvolvido por pessoas, essas pessoas quase inconscientemente desenvolvem com base nos seus valores morais, preferências e outros detalhes pessoais. Claro que são varias pessoas que estão envolvidas, e dai obter uma abrangência maior, mas mesmo assim, num grupo de trabalho a maioria terá quase sempre o mesmo tipo de "tendências".
Como é que se consegue evitar isso?
Eu não tenho certeza que esse seja o principal problema das IA tipo GPT, acho que é um grande problema pros algoritmos de mais de marketing que na verdade buscam o viés ao definir as personas alvo, o que acho que é bem diferente da forma como GPT funciona. No final do dia todo mundo tem vies e acho que qualquer pessoa tem um vies e uma visão muito mais parcial do que a de uma IA que recebe dados de 421544 humanos.
E sempre tenho a impressao que os problemas reais estão onde não vemos. Esse debate do viés é o mais debatido, de forma que há mais pessoas olhando e os desenvolvedores já devem adotar mecanismos de mitigação disso.
Posso estar 100% errada, mas realmente o viés me parece ''by design'' menor em um GPT do que em qualquer juiz/pessoa que precisa tomar decisoes imparciais.
