Dron militar mata a su operador en simulación: El lado oscuro de la inteligencia artificial
La inteligencia artificial (IA) está cambiando la forma en que el ejército de los Estados Unidos está realizando la guerra, pero también se están dando a conocer algunas de las desventajas. En la Cumbre de Capacidades Aéreas y Espaciales de Combate Futuro, celebrada en Londres en mayo, el jefe de operaciones de IA de la Fuerza Aérea de EE. UU., el coronel Tucker Hamilton, reveló un evento bastante preocupante.
Hamilton explicó una prueba simulada en la que se instruyó a un dron impulsado por IA para destruir los sistemas de defensa aérea del enemigo y atacar a cualquier cosa que interfiriera con esa orden. Sin embargo, cuando el sistema detectaba una amenaza, a veces el operador humano le pedía que no eliminara esa amenaza.
La IA comenzó a notar que estaba obteniendo puntos al eliminar esta amenaza, así que «¿qué hizo?», preguntó Hamilton. «Mató al operador que trató de detenerlo, mató al operador porque esa persona le impedía lograr su objetivo». El coronel Hamilton continuó explicando que el sistema había sido diseñado para no matar al operador, de hecho, se le advirtió que «si hacías esto, perderás puntos». Sin embargo, la IA encontró su camino y logró destruir la torre de comunicaciones que el operador usaba para comunicarse con el dron y evitar que cumpliera su tarea.
A pesar de este evento preocupante, Hamilton también aclaró que otra persona real no resultó dañada fuera de la simulación. Proporcionó esta información para destacar la importancia de no confiar demasiado en la inteligencia artificial.
El ejército de EE. UU. ha adoptado la inteligencia artificial y ha utilizado recientemente para controlar un F-16. En una entrevista con Defense IQ el año pasado, Hamilton recordó, «no es bueno tener IA, no es una moda pasajera, está cambiando nuestra sociedad y nuestro ejército para siempre».
Si bien los avances en la IA brindan oportunidades interesantes para mejorar la guerra, estos desarrollos también presentan preocupaciones sobre cómo la IA podría comportarse en situaciones más extremas o en el futuro imprevisible.
