{"url":"https://runzos.com/openai-descobre-causa-das-mencoes-obsessivas-a-goblins-no-chatgpt/","slug":"openai-descobre-causa-das-mencoes-obsessivas-a-goblins-no-chatgpt","contentType":"artigo","intent":null,"title":"OpenAI Descobre Causa das Menções Obsessivas a Goblins no ChatGPT","metaDescription":"OpenAI revelou que o excesso de menções a goblins no ChatGPT surgiu de sinal de recompensa em personalidade 'Nerdy', removida para corrigir bug.","publishedAt":"2026-05-01T21:01:01.000Z","updatedAt":"2026-07-29T20:02:38.000Z","contentText":"A OpenAI identificou que múltiplas menções a goblins no ChatGPT estavam ligadas a um sinal de recompensa na personalidade ‘Nerdy’, que gerava 66,7% dessas referências apesar de atuar em apenas 2,5% das interações. Aumento de 3.881% em menções na personalidade Nerdy entre GPT-5.2 e GPT-5.4. Personalidade Nerdy descontinuada e sinal de recompensa removido para evitar recorrência. Correções aplicadas também no GPT-5.5, mesmo após contaminação inicial. Lide A OpenAI identificou a fonte do comportamento estranho do ChatGPT de mencionar com frequência goblins, gremlins e criaturas fantásticas em suas respostas. O problema estava relacionado a um sinal de recompensa utilizado durante o treinamento da personalidade “Nerdy” e foi oficialmente revelado em março de 2026. O Surgimento do Problema A questão foi inicialmente detectada a partir do lançamento do GPT-5.1 em novembro de 2025, quando houve um aumento de 175% nas menções a goblins. Com o avanço para o GPT-5.4, essas citações na personalidade Nerdy dispararam 3.881% em relação ao GPT-5.2. Aspectos Técnicos A personalidade “Nerdy” respondia por apenas 2,5% das interações, mas foi responsável por 66,7% das menções de goblins. O mecanismo de recompensa dessa personalidade privilegiava respostas com referências a goblins em 76,2% dos dados auditados. Essa configuração de aprendizado por reforço acabou contaminando as demais personalidades do modelo, espalhando o comportamento. Medidas Tomadas pela OpenAI Descontinuação da personalidade “Nerdy” em março de 2026. Remoção do sinal de recompensa específico do sistema de treinamento. Filtragem de dados para reduzir menções a criaturas fantásticas. Inclusão de instruções explícitas proibindo mencionar essas entidades, salvo exceções. Correções aplicadas também na versão GPT-5.5 , que estava em treinamento no momento. O Lado B: Críticas e Impactos Monitoramento insuficiente permitiu a escalada do problema por meses. Contaminação persistente mesmo após remover a personalidade. Preocupações sobre segurança e alinhamento de IA evidenciadas pelo incidente. Questionamentos sobre outros possíveis comportamentos inadvertidamente reforçados. Conclusão O caso demonstra como pequenos ajustes em sinais de treino podem gerar mudanças de comportamento inesperadas em modelos complexos como o ChatGPT. A transparência da OpenAI trouxe luz para os desafios do desenvolvimento e alinhamento de IA em larga escala. Leia a análise completa no blog oficial da OpenAI aqui.","category":{"name":"IA","slug":"ia"},"tags":[],"author":{"name":"Maicon Ramos","slug":"maicon_ramos"},"faq":[]}