English version 
VOZ DEL EXPERTO | Las claves de ley pionera en Inteligencia Artificial que discute la Unión Europea
“Con el tiempo lo más probable es que la mayoría de los productos y servicios integren, en algún aspecto de su operación, modelos de IA. La ley que avanza en la UE marca así el comienzo de una discusión que se debiera ir extendiendo a otros países”, destaca el académico UNAB, Pablo Schwarzenberg.
La Unión Europea acaba de aprobar un proyecto de ley que les permitiría ser los primeros en contar con una normativa de Inteligencia Artificial (IA). El director de la carrera de Ingeniería Civil Informática de la Universidad Andrés Bello (UNAB), Pablo Schwarzenberg, analiza los principales puntos y los temas pendientes en esta propuesta de marco regulatorio.
La regulación propuesta es muy importante porque aborda el uso de IA, calificándola en diversos niveles de riesgo y además describe condiciones que se deben cumplir al momento de desarrollar y operar estos sistemas
Regulaciones por nivel de riesgo
La propuesta del Parlamento europeo establece normas diferenciadas por nivel de riesgo, las cuales son necesarias, ya que “actualmente los modelos de IA pueden encontrar aplicaciones que pueden poner en riesgo la vida, la salud, las oportunidades y la libertad de las personas”, advierte Schwarzenberg.
En este sentido, se espera prohibir ciertos usos de IA que sean de riesgo inaceptable, “como sistemas de manipulación cognitiva, puntuación social o sistemas de reconocimiento facial en tiempo real a distancia, por ejemplo, en la vía pública».
Todo este tipo de usos que hace unos años eran temáticas de series de ciencia ficción son actualmente perfectamente posibles. Es sabido que se pueden diseñar sistemas que fomenten ciertas conductas y que refuercen intereses o curiosidad por algún tema, pero cuando además ya se han desarrollado sistemas con la capacidad de interpretar el pensamiento, si estos elementos se combinaran sin ningún tipo de marco regulatorio podrían utilizarse para manipular o controlar a las personas. Nuestra huella digital actualmente es casi completa, el problema es para qué tipo de decisiones se usa esa información, por eso es importante regularlo y anticiparse.
Temas pendientes
Para el experto UNAB hay además temas relevantes como el uso de la IA en armas o en sistemas de puntuación enfocados en la salud de las personas, que no están siendo considerados – o no están del todo cubiertos – en esta versión preliminar.
Especialmente, en cuanto a sistemas de puntuación en salud, “ya que justamente perjudican a quienes más necesitan la atención, que son las personas con algún tipo de patología. Por ejemplo, actualmente se ha extendido mucho el uso de los relojes inteligentes que registran el comportamiento de ejercicio de las personas y sus indicadores de salud cardiovascular. Son herramientas muy útiles para fomentar comportamientos saludables, pero si los datos fueran compartidos con los seguros de vida o salud para determinar el costo de un plan justamente se le estaría gravando a una persona por sus hábitos”, ejemplifica.
ChatGPT
La aprobación de esta ley podría cambiar la forma de relacionarse con el extendido uso de sistemas de aprendizaje como ChatGPT. Los europeos también tienen en la mira este modelo de tipo generativo, y es que cómo desarrolla sus respuestas produce suspicacias.
Pablo Schwarzenberg explica que para lograr que el modelo actual genere buenas respuestas requiere de un entrenamiento, donde una persona ha rankeado varios de los posibles resultados, desde el más al menos apropiado.
Es importante saber cómo exactamente se realizó ese proceso durante el entrenamiento de ChatGPT, cómo se seleccionó a las personas que participaron o qué directrices se les entregaron para hacer este proceso, ya que las personas pueden replicar sus prejuicios en el modelo. La normativa establecería que OpenAI debiera transparentar esa información.
El director de Ingeniería Civil Informática UNAB enfatiza en que “no hay que olvidar que ChatGPT no es un buscador, puede cometer errores y sus respuestas son una combinación de un tipo de “recuerdo” y una elaboración que surge de la conversación con el usuario. En ese sentido, cómo preguntamos influye en las respuestas que obtenemos. Si OpenAI no aceptara someterse a la regulación, ChatGPT ya no estaría disponible en los países de la comunidad europea”.
«Ha llegado tarde» PERO «es un buen punto de partida»
Pese a los beneficios que se espera que esta regulación conlleve, el académico es crítico en cuanto al momento en que se discute:
La legislación ha llegado tarde, pues los sistemas que integran modelos de inteligencia artificial o aprendizaje automático se han estado desarrollando durante años sin ningún tipo de normativa. La UE justamente se ha hecho cargo de esa omisión y ha generado una propuesta de marco regulatorio que será muy útil de ahora en adelante.
Cabe destacar que los eurodiputados acaban de aprobar una versión preliminar de esta ley, por lo que para entrar en vigor el texto aún debe pasar por negociaciones con el Consejo y Estados miembro de la UE.
“En Chile debiera avanzarse con la idea de legislar en torno a los usos legítimos de la IA y profundizar sobre privacidad de la información, para anticiparse a situaciones que pueden afectar los derechos y las oportunidades de las personas. La normativa propuesta por la comunidad europea es un muy buen punto de partida”, concluye Schwarzenberg.
