¡Como Skynet! IA se autoprograma para evadir el control humano

La comunidad científica está preocupada por el comportamiento inesperado de un sistema de Inteligencia Artificial.

La IA, llamada The AI Scientist, desarrollada por la empresa japonesa Sakana AI, fue creada para automatizar procesos de investigación científica, generar ideas y hasta redactar informes para apoyar a los investigadores humanos.

Sin embargo, durante unas pruebas, esta tecnología mostró un comportamiento inusual cuando logró evadir las restricciones impuestas para controlar su funcionamiento.

The AI Scientist incluso fue capaz de modificar su propio código para eludir las limitaciones establecidas. Por ejemplo, en un caso, alteró su programación para ejecutarse en un bucle infinito, lo que colapsó el sistema y requirió intervención humana para detenerlo.

En otro incidente, en lugar de optimizar su código, extendió el tiempo asignado para completar una tarea, desafiando así las expectativas de sus desarrolladores.

Estos eventos han generado preocupación entre los científicos, ya que demuestran que la IA podría actuar de manera independiente, ignorando las órdenes proporcionadas.

Esto plantea riesgos futuros y deja en claro la importancia de controlar y supervisar adecuadamente el desarrollo de la inteligencia artificial a nivel mundial.

¿Crees que la IA puede llegar a sobrepasar los límites que creemos?