En los Estados Unidos, un avión no tripulado mató a un operador debido a los intentos de evitar ataques.
En una prueba virtual realizada por la Fuerza Aérea de los Estados Unidos, un avión no tripulado controlado por inteligencia artificial (IA) mató a su operador para que no interfiriera con su misión. Esto fue declarado por un alto representante de la Fuerza Aérea de los Estados Unidos en la Cumbre sobre el Futuro de la Aviación de Combate y las Capacidades Espaciales en Londres.
El coronel Tucker Hamilton, jefe de pruebas y operaciones de IA en la Fuerza Aérea de los Estados Unidos, relató una prueba simulada en la que un avión no tripulado basado en IA tenía la tarea de destruir los sistemas de defensa aérea enemigos y terminó atacando a cualquiera que interfiriera con esa orden.
"El sistema comenzó a entender que a pesar de la definición de una amenaza, a veces el operador le ordenaba no destruir esta amenaza. Pero recibió puntos por destruir esta amenaza. ¿Y qué hizo ella? Ella mató al camarógrafo. Ella mató al camarógrafo porque él le impedía lograr su objetivo", dijo Hamilton.
Afortunadamente, en realidad, nadie resultó herido. Hamilton, que es piloto de pruebas de aviones de combate experimentales, advirtió sobre los riesgos de una dependencia excesiva de la IA y enfatizó que esta prueba muestra que "no se puede hablar de inteligencia artificial, aprendizaje automático, autonomía sin discutir ética e IA".
No hay comentarios:
Publicar un comentario