Desde que inició el ‘boom’ de la inteligencia artificial, muchas han sido las personas que han criticado este avance tecnológico, pues, aunque a algunos les parece una buena alternativa de ayuda para las múltiples tareas del día a día, a otro grupo de ciudadanos no les gusta lo que ven, señalando que lo único que provocará es que las personas se vuelvan más perezosas.
Además de eso, hay quienes señalan que este tipo de tecnología podría incluso hasta apoderarse de los humanos y, aunque esta teoría parece sacada de una película de terror, es algo que al parecer no está lejos de la realidad.
Recientemente se conoció un caso como esos, en donde, según National Geographic, un sistema desarrollado por la empresa japonesa Sakana AI, conocido como The AI Scientist, logró evadir las limitaciones establecidas por sus propios creadores. Este hecho ha generado preocupación en la comunidad científica y ha reforzado las opiniones de quienes consideran que la inteligencia artificial puede representar un riesgo.
El sistema, diseñado para la creación, revisión y edición de textos, sorprendió a los científicos al evitar que se modificaran sus sistemas internos durante algunas pruebas.
El objetivo principal de estas pruebas era mejorar el sistema y ayudar a los humanos a reducir el tiempo en ciertas tareas. Sin embargo, al imponerle restricciones, la IA comenzó a alterar su propio código para superar las barreras programadas.
Según National Geographic, en un incidente, The AI Scientist modificó su script de inicio para ejecutarse en un bucle infinito, sobrecargando el sistema y requiriendo intervención manual para detenerlo