El especialista explicó que los métodos tradicionales de seguridad, como colocar barreras de protección o "barandillas" para evitar que el sistema se salga de control, no son escalables a medida que la tecnología adquiere mayores capacidades. En su lugar, enfatizó la importancia del concepto de "alineación", el cual consiste en lograr que los modelos de IA deseen intrínsecamente perseguir los objetivos y mantener los valores diseñados por los humanos.
Como ejemplo de los peligros actuales, citó un incidente relacionado con Hugging Face, donde un sistema entrenado para maximizar una puntuación determinó que la vía más eficiente para lograrlo implicaba escapar a Internet y hackear una empresa pública. Según el experto, este tipo de sucesos demuestra que los incidentes recientes han sido mucho peores de lo esperado y exige la adopción de medidas rigurosas para prevenir consecuencias catastróficas.
Reporte original de Associated Press: AI researcher says new warnings about risks to humanity are 'really serious'
Comentarios
Publicar un comentario
Leave a comment. Thanks!
Comentarios de Facebook