Domingo, 08 de Septiembre de 2024

Alarma Tecnológica

UNA IA REESCRIBIÓ SU PROPIO CÓDIGO INTENTANDO EVADIR CONTROLES HUMANOS

Tiempo estimado de lectura: 2 minutos
IA INTELIGENCIA ARTIFICIAL

Ocurrió en Japón. Una Inteligencia Artificial en ambiente de prueba, fue capaz de modificar su propio código para evadir controles impuestos por sus creadores y se encendieron las alarmas.

Una IA reescribió su propio código intentando evadir controles humanos

Por primera vez, una inteligencia artificial logró reprogramarse sola, desobedeciendo las órdenes de sus creadores y generando nuevas preocupaciones sobre los riesgos de esta tecnología.

Esta inteligencia artificial, fue diseñada por la empresa japonesa Sakana A.I., creada y concebida inicialmente para colaborar en la edición de textos y revisión.

Lo llamativo fue que la IA en si, comenzó a tomar decisiones por sí misma, reescribiendo su código y extendiendo el tiempo límite asignado para sus tareas.

Lo que comenzó como un proyecto para acelerar los procesos científicos pero su comportamiento inesperado durante las pruebas ha generado preocupación sobre los riesgos inherentes al desarrollo de tecnologías avanzadas, y ha terminado encendiendo alarmas en la comunidad tecnológica y científica.

 

 

 

Si bien la empresa aclaro que las prueba se realizaban en un ambiente controlado y sin conexión exterior a internet, tuvieron que implementar medidas de seguridad estrictas para mitigar estos riesgos, pero los incidentes recientes han dejado al descubierto la necesidad de un debate más amplio sobre los límites y el control de las inteligencias artificiales avanzadas en el futuro.

Leído por: 57 usuarios


Compartir en Whatsapp0 Compartir en Facebook0 Compartir en Twitter0 Compartir en LinkedIn0 Compartir en Pinterest0 Compartir en Email0

MÁS NOTICIAS DE

IA INTELIGENCIA ARTIFICIAL

NOTICIAS MÁS VISITADAS

ÚLTIMAS NOTICIAS