Depois do hype gerado pelo Dall-E, a Open AI lançou recentemente (ou nem tanto), seu ChatGPT, e acabou gerando reações das mais diversas no mercado (não só de tech, diga-se)
No episódio de hoje, os convidados Arosti Nahas – Diretor de Engenharia, e Gabriel Barberini – QA Engineer, bateram um papo sobre as implicações éticas, sociais e tecnológicas que a AI trouxe para a mesa.
Colocando em perspectiva, diversas áreas tendem a ser afetadas pela tecnologia, em especial trabalhos considerados repetitivos ou automatizáveis.
Trabalhos mecânicos e repetitivos serão mais afetados pela tecnologia.
Viés
Pensando no aspecto do treinamento da IA, também existe a preocupação com o viés das fontes usadas no treinamento.
Não muito tempo atrás, experiências com bots que aprendiam através de interações com usuários na internet, resultaram em AIs com viéses racistas, por exemplo. Então como evitar tais viéses?
Educação
Outra área que tende a ter uma grande revolução por conta da AI é a educação.
Com ferramentas como o ChatGPT, testes que validam a capacidade de memorização dos alunos torna-se irrelevante, forçando uma adaptação no modelo de aprendizado, visando principalmente a capacidade de resolver problemas, ou conexão de diferentes aspectos.
O processo de “pensamento”, é portanto uma das grandes barreiras que vamos enfrentar em breve. Afinal, ao invés dos professores e professoras buscarem por “plágios da wikipedia”, o problema agora é mais complexo. Como validar a compreensão das pessoas, ao invés da memória?
Muita coisa pela frente!
Fake news, deep fake…
Outro grande dilema é a confiança nas informações recebidas pela internet.
O recente caso do Papa de Casaco oversized, fez com que o mundo ficasse em dúvida: Era aquela uma imagem real?
Entre discussões sobre se sim ou não, o que fica na discussão é a necessidade de amadurecimento das pessoas ao lidar com informações. Mais do que nunca, a checagem e validação serão necessárias. Mas quem valida os validadores?
A discussão acaba em regulação de governos, na mesma linha dos debates das redes sociais. Ainda vai longe, mas é importante que seja aberta o quanto antes.
De qualquer forma, não é bloqueando a evolução do tema (como a carta publicada recentemente) que a discussão e o problema serão encerrados.
Conteúdo adicional
Pra quem quiser saber mais sobre o que falamos no papo, segue uma listinha de materiais gentilmente compartilhados pelos nossos convidados:
- Sobre potenciais perigos de uma inteligência artificial e expectativa pro futuro:
https://80000hours.org/problem-profiles/artificial-intelligence/
https://80000hours.org/articles/what-could-an-ai-caused-existential-catastrophe-actually-look-like/
- Khanamigo (IA educadora):
https://www.khanacademy.org/khan-labs
- Dicas para educadores lidarem com a existência de IA:
https://www.khanacademy.org/college-careers-more/ai-for-education/x68ea37461197a514:ai-for-education-unit-1/x68ea37461197a514:ai-in-the-classroom/a/don-t-ban-ai-powered-chatbots-ask-sal
- Platão – Fedro: Diálogo/mito sobre a invenção da escrita
https://www.redalyc.org/journal/5766/576664618007/html/
- Sobre o Project Debater, robô persuasivo:
https://youarenotsosmart.com/2022/01/09/yanss-223-if-machines-can-learn-how-to-argue-with-debate-and-persuade-human-beings-what-does-that-say-about-the-nature-of-opinion-and-belief/
- Sobre senciência artificial:
https://80000hours.org/problem-profiles/artificial-sentience/
- Elon Musk quer pausar ChatGPT e Inteligência Artificial em carta; entenda
- O papo da vez é ChatGPT: por que um robô de conversação gera tanto debate?
- Transformadores – O Estado da Arte em Processamento de Linguagem Natural
Sobre IA em sistemas de missão crítica
https://tbtech.co/innovativetech/artificial-intelligence/can-ai-be-relied-upon-to-run-mission-critical-systems-and-make-judgement-calls/
No podcast eu disse que duvidava que usassem, mas pelo que pesquisei tem certo uso de IA em missão crítica, mas com escopo reduzido. O artigo acima discute um pouco sobre a diferença entre um ser humano e uma IA nessa questão.