Sam Altman y el fundador de Microsoft alertan de que las virtudes de la IA pueden verse desvirtuadas si caen en las manos equivocadas o terminan escapando al control humano

El imparable auge de las nuevas aplicaciones de Inteligencia Artificial (IA) lleva meses asombrando al mundo, perplejo ante su creciente capacidad pero inquieto también por sus potenciales riesgos.

En los últimos días, sin embargo, la atención a estos temores se ha redoblado a cuenta de que dos de sus mayores promotores se hayan pronunciado al respecto. Se trata nada menos que de Sam Altman, director ejecutivo de OpenAI, creadora del ya célebre ChatGPT; y Bill Gates, cuyo interés en el chatbot y el motor que lo impulsa le ha llevado a inyectar inversiones millonarias para su desarrollo.

El primero en manifestarse fue Altman. En una entrevista concedida el pasado día 16 a la cadena ABC News, el tecnólogo de 37 años afirmó que la IA «redefinirá la sociedad tal y como la conocemos ahora», pero se mostró, sin embargo, “un poco asustado” en lo que concierne a sus posibles riesgos.

Para el ejecutivo, quien cree que esta tecnología tiene el potencial de ser “el mejor invento que la humanidad haya creado nunca”, el camino hacia la “mejora de nuestras vidas” puede verse desvirtuado en caso de que se aprovechen sus reconocidos “errores” como arma de “desinformación” o, en su defecto, para llevar a cabo ataques informáticos u otras prácticas perversas.

“Me preocupa especialmente que estos modelos puedan usarse para la desinformación a gran escala”, señaló Altman, en referencia a que los modelos GPT lanzados hasta ahora funcionan mediante razonamiento deductivo –en lugar de un sistema de memorización– con el objetivo de que las interacciones con los usuarios sean más fluidas.

“El modelo afirmará con confianza cosas que son inventadas, como si se tratara de hechos. […] La forma correcta de pensar en los modelos que creamos es como si fuera un motor de razonamiento, no una base de datos fáctica. También pueden actuar como una base de datos fáctica, pero eso no es realmente lo que tienen de especial. Lo que queremos que hagan es algo más cercano a la capacidad de razonar, no de memorizar”, explicó.

Respecto a su otra gran preocupación, los ataques informáticos, el directivo apuntó también que mientras su compañía se cuida de implementar todas las medidas de seguridad posibles para evitar que ocurran, otros desarrolladores podrían obviarlo, con las posibles consecuencias que esto conllevaría. “Una cosa que me preocupa es que no seremos los únicos creadores de tecnologías de este tipo. Habrá otras personas que no implementarán algunos de los límites de seguridad que nosotros sí le ponemos”, dijo Altman.

Gates y el descontrol de la IA

En paralelo a las declaraciones del CEO, el fundador de Microsoft desgranó este martes en su blog personal su propia visión sobre los sistemas de IA. Gates, que definió las herramientas de generación de lenguaje de OpenAI como el “avance tecnológico más importante desde la interfaz gráfica de usuario” se mostró esperanzado de que la IA sirva para reducir algunas de las peores desigualdades del mundo, incluyendo la atención médica en el mundo en desarrollo, el cambio climático o la educación. No obstante, al igual que Altman, manifestó también sus preocupaciones, las cuales no tienen tanto que ver con el posible uso torticero que se haga de ella como con su eventual descontrol.

Aunque, dijo, “ninguno de los avances de los pasados meses nos han acercado sustancialmente a la inteligencia artificial fuerte”, “las inteligencias artificiales superinteligentes están en nuestro futuro [y podrían] ser capaces de establecer sus propios objetivos”. “¿Podría una máquina decidir que los humanos son una amenaza, concluir que sus intereses son diferentes a los nuestros o simplemente dejar de preocuparse por nosotros?”, reflexiona. Un escenario para el que el multimillonario, que se ha mostrado interesado en la tecnología GPT desde el primer momento, se ha reunido en varias ocasiones con sus directivos y ha desembolsado inversiones millonarias, pide que “los gobiernos trabajen con el sector privado para limitar los riesgos”.

Fuente: eldebate.com