El proyecto secreto Q* de OpenAI es el que representa, supuestamente, un peligro para el planeta. Este proyecto se ha puesto en boca de todos, porque, en teoría, sería el proyecto de OpenAI que ha puesto en alerta a todos sus investigadores. En Q* se podría vislumbrar un peligro para el futuro de la raza humana, supuestamente.
¿Por qué el proyecto secreto Q* podría ser tan amenazante?
A nivel técnico, el proyecto secreto Q* podría salir a relucir como una nueva startup tecnológica que pondría a prueba el funcionamiento de la inteligencia artificial general. La empresa OpenAI describió a este sistema de IA general como un grupo de “sistemas autónomos que superan a los humanos” todo ello analizado desde un punto de vista económico, buscando la total productividad y rendimiento.
¿Por qué hubo tanto caos en OpenAI?
En estos últimos días, en los que ha habido multitud de críticas y comentarios sobre el despido de Sam Altman, OpenAI ha querido hablar sobre la situación de la empresa, aclarando todo sobre su CEO y sus últimos proyectos.
Tras decidir despedir a Sam Altman, OpenAI volvió a constituir una nueva junta directiva, readmitiendo a Altman de nuevo.
En general, muchas personas no entendieron estos cambios tan bruscos. Al parecer, varios inversores y empleados de la compañía amenazaron a OpenAI con dimitir juntos si no volvían a aceptar a su CEO y líder.
Se rumoreó que Sam Altman y la antigua junta directiva no llegaron a un acuerdo sobre cómo manejar una IA que pudiera ser multitarea y realizar todos sus propósitos con mayor eficiencia que un ser humano.
Según Reuters, varios investigadores internos pudieron haber escrito una carta a la junta advirtiéndoles que se había descubierto algo muy poderoso sobre la IA. Ese algo, en teoría, todavía no explicado ni descrito, “podría amenazar a la humanidad”.
¿Una IA podría ser muy humana?
Los investigadores, al parecer, estarían preocupados sobre la posible comercialización del proyecto secreto Q*, algo que ellos ven todavía como prematuro, ya que no se sabe que consecuencias podría traer. Sin embargo, OpenAI declaró en varias ocasiones que uno de los propósitos que tienen es desarrollar ese concepto de sistemas autónomos generales de IA, siendo una de sus metas principales. Los equipos de seguridad de la empresa, habrían demandado a Altman, en teoría, más tiempo, para poder generar más “barreras” y ponerle límites a los nuevos sistemas de inteligencia artificial.
Ilya Sutskever, científico jefe de OpenAI, uno de los propulsores de la protesta, explicó que los sistemas de IA necesitan un entrenamiento previo. De este modo, la IA podría tomar instrucciones al igual que un ser humano, equiparándolos. Por ahora, el proyecto secreto Q*, según Reuters y las declaraciones que realizó una fuente anónima, puede resolver problemas de matemáticas al mismo nivel que un niño de una escuela primaria.
A pesar de que esto parece no ser nada, los expertos consideran que aprender matemáticas es la frontera en el desarrollo de la IA generativa. Esto se traduciría en que la IA ganaría mayores capacidades de razonamiento y un mejor análisis, acercándose poco a poco a la forma de inteligencia humana. El miedo de que se convierta en algo “demasiado humano” es la incógnita a la que todavía se van a tener que enfrentar sus desarrolladores, preguntándose si al desarrollar un pensamiento autónomo podría revelarse contra la humanidad. ¿Qué opináis?
