- Publicado em Notícias
- Seja o primeiro a comentar!
Pesquisadores usam prompt injection para manipular IAs na revisão por pares
Uma prática recente tem preocupado editores e instituições de pesquisa: o uso de prompts ocultos em manuscritos para manipular sistemas de revisão baseados em inteligência artificial (IA). A técnica foi identificada em 17 manuscritos publicados no repositório de preprints arXiv – com autoria vinculada a 14 universidades de oito países, entre eles Japão, Coreia do Sul, China, Singapura e Estados Unidos.
Entre as instituições envolvidas estão Waseda University; Korea Advanced Institute of Science & Technology (KAIST); Peking University; National University of Singapore; University of Washington; e Columbia University.