Los moderadores de Reddit han notado que tienen cada más textos generados por inteligencia artificial en la plataforma. Lo que comenzó con sólo algunas publicaciones se ha convertido en un spam constante. El problema con este tipo de contenido no es sólo que es de dudosa calidad, sino que también que son textos que se generan muy rápido.
No solamente se publican textos elaborados por la inteligencia artificial, también se crean cuentas de bots que generan spam de manera descontrolada, lo que dificulta la tarea de los moderadores.
Spam y contenido falso, algunos de los problemas del contenido generado por IA en Reddit
Desde el mes de diciembre que los moderadores de Reddit comenzaron a notar contenido que era sin dudas generado por inteligencia artificial. De acuerdo a Sarah Gilbert, una de las moderadoras, este tipo de contenido es fácil de detectar porque suelen contener información falsa y no son exhaustivos.
El foro en donde se encontraron mayor cantidad de publicaciones realizadas por inteligencia artificial (o ChatGPT más específicamente) fue el de AskHistorians. Se trata de un espacio en donde usuarios realizan consultas a historiadores y se compone de 2 millones de personas. Luego del lanzamiento de ChatGPT, se realizaron de 5 a 10 publicaciones nuevas y esto fue en aumento a medida que se popularizaba la herramienta de inteligencia artificial. Posteriormente, fueron disminuyendo porque muchas eran eliminadas directamente por baja calidad o bien eran eliminadas por los moderadores.
No sólo hay publicaciones generadas por ChatGPT sino que también se crean cuentas masivamente. Muchas de ellas deben eliminarse manualmente, ya que los sistemas de Reddit no son suficientes para hacer frente al contenido generado por inteligencia artificial.
Ataques de bots y contenido casi humano son los principales problemas
Por el momento, los moderadores de Reddit consideran que es sólo una cuestión de tiempo para que el contenido elaborado por ChatGPT sea de mejor calidad y difícil de detectar. Lo más complicado es la detección de cuentas falsas que se hacen pasar por reales, algo para lo cual las herramientas de moderación son inútiles hasta el momento.
Reddit está trabajando en el desarrollo de herramientas para detectar contenido generado por inteligencia artificial. Mientras tanto, es un trabajo que realizan manualmente los moderadores, ya que los detectores actuales no son suficientes.
Sin dudas que se trata de una problemática en discusión, ya que la proliferación de contenidos falsos puede modificar el funcionamiento de las redes sociales.
En los últimos días se conoció la noticia que diferentes usuarios de Reddit pagaron por contenido erótico de Claudia, una joven que no existe. Las imágenes fueron creadas por inteligencia artificial. Aquellos que pagaron por dicho contenido no se percataron de ello y pensaron que Claudia era real. Muchos usuarios alertaron sobre la situación y que las fotos eran creaciones de inteligencia artificial, ya que eran imágenes demasiadas procesadas para ser personas reales.
Según afirmó Sarah Gilbert, una de las moderadoras de Reddit, las publicaciones realizadas por inteligencia artificial se están volviendo realistas y baratas de hacer. Esto genera complicaciones para diferenciar las cuentas reales de los bots, así como las publicaciones con contenido falso.
