AI refleja prejuicios de la sociedad, afirma CEO de Oxford Insights
Astana – En esta segunda parte de la entrevista de Astana Times con Richard Stirling, cofundador y CEO de Oxford Insights, una firma de consultoría global detrás del índice de preparación del gobierno. En la primera parte, se discutió lo que se necesita para que un gobierno esté listo para la IA y las oportunidades que ve en Kazajstán. En esta parte, se profundiza en los riesgos más amplios derivados de la IA.
Ganancias y desventajas de la IA
Sin embargo, hay riesgos más amplios asociados con la IA. La desventaja es que si las personas confían en solo unos pocos modelos de IA, principalmente entrenados en los Estados Unidos o China, no pueden reflejar la vida diaria, las experiencias o los idiomas.
«Como resultado, las respuestas que recuperamos son perfectamente válidas, pero reflejan los datos sobre los que se capacitan los modelos», dijo Stirling.
Mencionó casos de modelos de IA que asisten en decisiones judiciales en los Estados Unidos.
“Funcionó bastante bien durante un tiempo hasta que probaron el modelo y se dieron cuenta de que la decisión se estaba tomando por la composición étnica de la persona que estaba frente a ellos. Eso suena como una terrible historia de AI, pero había aprendido eso de las decisiones de la corte antes. Está sosteniendo un espejo para nuestra sociedad, y nuestra sociedad no está libre de parcialidad”, dijo Stirling.
Debido a que ninguna sociedad está libre de sesgo, dependiendo únicamente de los datos existentes sin abordar estos problemas corre el riesgo de reforzar o incluso profundizar los sesgos sociales. Si bien usar IA en áreas tan delicadas como la corte o la atención médica podría generar inquietudes, esto es lo que cada país necesita decidir por sí mismo, dijo Stirling.
“Probablemente no lo tendría en la corte, y probablemente lo tendría en medicina. En los tribunales, le estás quitando la vida y la libertad de alguien, y en medicina, la estás devolviendo. Pero puedo entender completamente por qué no estarías contento con eso en medicina. Creo que estas son las discusiones que deberíamos tener como sociedad, y deberíamos llegar a una conclusión social. Deberíamos establecer límites que reflejen esa conversación, en lugar de ser liderados por personas que son demasiado entusiastas en la tecnología o exagerados en la tecnología”, dijo Stirling.
Privacidad y seguridad de datos
Por otro lado, el rápido desarrollo e integración de la IA plantea preocupaciones críticas sobre la privacidad y la seguridad de los datos. Stirling pide actualizar las reglas y leyes para «reflejar los desafíos que la sociedad enfrenta ahora».
“La privacidad de los datos es una cosa, y asegurarse de que los datos que pones en estos sistemas terminen manejando de la manera que quieres que se maneje. (…) ¿Qué podría considerar como datos personales? ¿Son sus datos personales de imagen? Si tomé una captura de pantalla ahora, ¿debería poder usar eso? ¿No debería? Y luego está presentando contenido que informa ser usted, pero no lo es, así que publicar contenido falso. ¿Y cuál es el papel en eso? dijo.
Estos debates permanecen sin resolver a medida que las leyes luchan por mantener el ritmo de la rápida evolución de la tecnología.
“Estas son preguntas en vivo, que no creo que nadie haya llegado correctamente al fondo. Debido a que en el momento en que codifica algo en una ley, se vuelve difícil cambiar. Lo que también es cierto es la hora de la tecnología. Está cambiando semana a semana en este momento”, dijo.
La Unión Europea, por ejemplo, ha sido proactiva en el establecimiento de regulaciones sobre derechos digitales e IA, abordando temas como el uso de imágenes mucho antes de que el contenido generado por IA se convirtiera en la corriente principal. Sus leyes reconocen el derecho a la privacidad como un derecho humano fundamental.
En 2024, la Ley de IA de la UE entró en vigor, describiendo pautas y responsabilidades claras para los desarrolladores y usuarios de IA en aplicaciones específicas. «Debido a que el riesgo de regular demasiado y demasiado temprano es que sofoca una industria que desea crecer, y necesitas dar a las personas el espacio para la creatividad», dijo Stirling.
Un pequeño experto en el bolsillo
La IA puede transformar no solo las industrias, sino también convertirse en un asistente útil en manos de las personas. Los usos pueden variar desde planificar un itinerario de viaje hasta hacer un resumen de un libro de miles de páginas. Stirling describió las herramientas de IA como un «pequeño experto en mi bolsillo».
“Confesaré ser alguien que usa mucho AI. Viajo mucho con el trabajo. Utilizo AI para resolver lo que es un buen itinerario para mí cuando aparezco en una nueva ciudad. (…) tomo fotos de habitaciones en mi casa y pido sugerencias sobre el color, o uso la IA para proporcionarme consejos sobre los pasos necesarios, bricolaje o cualquier cosa en un régimen para ponerse en forma”, agregó Stirling.
