Yannic Kilcher, un investigador de IA que publica algunos de sus trabajos en YouTube, llamó a su creación GPT-4chan y la describió como "la peor IA de la historia".
Entrenó a GPT-J 6B, un modelo lingüístico de código abierto, con un conjunto de datos que contenía 3 años y medio de publicaciones extraídas del foro 4chan. No es el GPT-3 pero hacía su papel.
A continuación, noticias /software/que-es-chatbot-50012" target="_blank" title="¿Qué es chatbot?">Kilcher desarrolló un chatbot que procesaba los mensajes de 4chan como entradas y generaba salidas de texto, comentando automáticamente en numerosos hilos. Los internautas no tardaron en darse cuenta de que una cuenta publicaba con una frecuencia sospechosa.
Como bien sabes, noticias / internet /que-es-4chan-peculiar-foro-donde-colgo-fappening-18819" target="_blank" title="Qué es 4chan, el peculiar foro donde se colgó el Fappening">4chan es un extraño y oscuro rincón de Internet, donde cualquiera puede hablar y compartir lo que quiera mientras no sea ilegal. Por eso las conversaciones los tablones de mensajes del sitio son extrañas y es difícil saber si hay alguna inteligencia, natural o artificial, detrás.
La cuestión es que la creación de Kilcher, el GPT-4chan, se comportaba como el usuario medio de 4chan: profiriendo insultos y teorías conspirativas por doquier sin importar el tema.
Los analistas que han probado el modelo con algunos ejemplos de preguntas han obtenido respuestas que iban desde lo tonto y lo político, hasta lo ofensivo y lo antisemita.
Kilcher no hizo público el código del bot, y dijo que sería difícil reutilizar su código para crear una cuenta de spam en otra plataforma como Twitter, donde los límites están más claros y los moderadores son más estrictos.
Un sitio web llamado Hugging Face alojaba abiertamente GPT-4chan, donde supuestamente se descargó más de 1.000 veces antes de ser desactivado.
Y Hugging Face decidió no eliminar el modelo por completo, ya que según ellos Kilcher había advertido claramente a los usuarios sobre sus limitaciones y su naturaleza problemática.
El GPT-4chan también tiene cierto valor para la construcción de posibles herramientas de moderación automática de contenidos o para sondear los puntos de referencia existentes.
Curiosamente, el modelo pareció superar al GPT-3 de OpenAI en el TruthfulQA Benchmark, una tarea destinada a probar la propensión a mentir de un modelo. El resultado no significa necesariamente que GPT-4chan sea más honesto.
El creador del bot habló largo y tendido con The Registrer, donde está toda la conversación. Si tienes curiosidad no dudes en leértela.
0 Comments:
Publicar un comentario