MIT Review: una IA que escribe artículos podría ser usada para generar “fake news” en masa

¿Imaginas que los próximos artículos que leas sean redactados por una inteligencia artificial capaz de crear fake news? Bueno, esta no es una noticia falsa, es una realidad cada vez más cercana, ya que OpenAI ha desarrollado MIT Review, un algoritmo capaz de escribir artículos y que podría incluso elaborar notas ficticias.

MIT Review

La herramienta se nutre con más de 45 millones de páginas web elegidas a través de Reddit y tiene como funciones principales el traducir textos y responder interrogantes. Además, puede resumir información e incluso mejorar las habilidades de los chatbots.

Jack Clark, director de políticas de OpenAI, afirma que ha usado la herramienta para generar, con gran éxito, historias cortas sobre ciencia ficción.

Sin embargo, utilizando su aprendizaje automático e información en internet, MIT Review ha conseguido evolucionar de tal manera que ahora puede redactar contenidos que aparentemente son reales.

Fake news

La noticia falsa que dio las señales de alerta sobre la habilidad del MIT fue una donde escribía “Rusia ha declarado la guerra a los Estados Unidos después de que Donald Trump disparara accidentalmente un misil en el aire”. El resto fue invención de hechos y declaraciones de los gobiernos involucrados.

“Comenzamos a probarlo y rápidamente descubrimos que es posible generar contenido malicioso con bastante facilidad”, afirma Clark. Por ende, considera que esta IA podría automatizar la generación de noticias falsas, así como publicaciones en redes sociales o textos en la web.

Un uso inadecuado de esta tecnología generaría diversos problemas, advierte el investigador. En escenarios como las elecciones y las campañas políticas, puede convertirse en una fuerte arma de manipulación que cree confiables historias simuladas, duplicando comentarios o emitiendo tweets falsos.

Peligro

Los investigadores de OpenAI saben de los grandes inconvenientes que podría desatar el MIT Review si es que es usada para la desinformación o la propaganda, por ello “estamos tratando de adelantarnos a esto”, asegura Clark.

Como precaución han decidido poner a disposición del público una versión simplificada de la herramienta. Pronto se tendrán mayores detalles con la publicación de un trabajo acerca de esta IA.

El desarrollo de la inteligencia artificial avanza a pasos agigantados. Hace unos días se presentó a la IBM Debater, una IA que planea derrotar a los campeones en competencias de debate; y solo un mes atrás se usó un algoritmo para crear un deepfake que combinaba a Jennifer Lawrence con Steve Buscemi.

Fuente: nmas1.org

¿Ya conoces nuestro canal de YouTube? ¡Suscríbete!