Equipe vermelha do LLM: As pessoas estão hackeando chatbots de IA apenas por diversão!

O que acontece quando as pessoas levam a inteligência artificial aos seus limites - não por lucro ou malícia, mas por curiosidade e criatividade? Um novo estudo publicado na PLOS One explora o mundo dos "LLM red teamers", indivíduos que testam os limites de grandes modelos de linguagem tentando intencionalmente fazer com que eles falhem. Com base em entrevistas com 28 profissionais, a pesquisa lança luz sobre uma interação humano-computador que está surgindo rapidamente e que combina jogo, ética e improvisação. Os modelos de linguagem de grande porte (LLMs) - como os que estão por trás de ferramentas populares como o ChatGPT - podem gerar respostas semelhantes às humanas com base em grandes quantidades de texto.