Tres categorías de riesgo de la IA y por qué la extinción aún no está evidenciada
El profesor Nick Jennings describe tres clases dramáticas de riesgo de la IA: pérdida de control humano, superinteligencia emergente y concentración de poder; y sostiene que pasar de la posibilidad a la probabilidad requiere una larga cadena de suposiciones que aún no se ha dado. Pide seguridad integrada, supervisión y una justificación más clara por parte de los desarrolladores que continúan el trabajo en la frontera tecnológica.
Resumen
Resumen elaborado con IA a partir de la fuente enlazadaJennings identifica la pérdida de control, la superinteligencia y la concentración de poder como los principales escenarios dramáticos; advierte que la extinción humana requeriría que ocurran todos los eslabones de una larga cadena de eventos—desde capacidades mucho mayores hasta fallos institucionales y técnicos—ninguno de los cuales ha sucedido aún, y exhorta a un diseño de seguridad sistemático, monitoreo y responsabilidad por parte de los desarrolladores.