English version 
24 Julio 2023
Precisamente estos cuestionamientos, fueron parte del análisis que Cristian Buc realizó con los alumnos de la Universidad Andrés Bello. Billy Peralta, académico de la Facultad de Ingeniería UNAB, destaca que:
Cristian Buc, experto CENIA en la UNAB: “Muchos de los estudios en IA también tendrían que pasar por un comité ético”
La Facultad de Ingeniería UNAB junto al Centro Nacional de Inteligencia Artificial (CENIA), organizaron una charla sobre IA, que se desarrolló en el campus Antonio Varas UNAB
La Inteligencia Artificial (IA) es la nueva frontera del conocimiento y aprender
sobre ella es crucial en mundo en constante evolución. Bajo esta premisa, la Facultad de Ingeniería de la Universidad Andrés Bello (UNAB), organizó el encuentro “IA: Qué son las redes neuronales, cómo funcionan y cuáles son sus aplicaciones”, el cual contó con una charla de Cristian Buc, jefe del equipo de investigación del Centro Nacional de Inteligencia Artificial (CENIA).
sobre ella es crucial en mundo en constante evolución. Bajo esta premisa, la Facultad de Ingeniería de la Universidad Andrés Bello (UNAB), organizó el encuentro “IA: Qué son las redes neuronales, cómo funcionan y cuáles son sus aplicaciones”, el cual contó con una charla de Cristian Buc, jefe del equipo de investigación del Centro Nacional de Inteligencia Artificial (CENIA).A través de diversos ejemplos gráficos, el experto acercó a los estudiantes UNAB conceptos de IA, invitándolos a reflexionar sobre cómo aprenden las máquinas y la nueva revolución tecnológica que las investigaciones en esta materia implican.
Riesgos éticos relacionados con la IA
UNESCO destaca en su web que en noviembre de 2021, sus 193 Estados miembros de la Conferencia General adoptaron la “Recomendación sobre la Ética de la Inteligencia Artificial”, la cual cobra relevancia al ser una tecnología tan inmersa en la vida cotidiana y con consecuencias profundas en la sociedad.
Europa está liderando las discusiones en esta materia, avanzando en la que sería la primera ley integral sobre IA del mundo. España por su parte, también ha tomado acciones y acaba de constituir un Comité de Ética en la Investigación. Cristian Buc, coincide en el aporte de estos organismos:
«Muchos de los estudios en IA tendrían que pasar por un comité ético, pero no sucede mucho. Esa conversación hay que tenerla».
“Hay muchos riesgos éticos relacionados con la IA que están bien documentados y ampliamente difundidos; el sesgo no intencional y las violaciones de privacidad son sólo dos de los más destacados. En muchos casos, los riesgos son específicos para usos particulares, como la posibilidad de que los autos autónomos atropellen a peatones o que las noticias generadas por IA en las redes sociales siembren desconfianza en las instituciones públicas. Si las empresas no abordan cuidadosamente los problemas éticos en la planificación y ejecución de proyectos de IA, pueden perder mucho tiempo y dinero desarrollando un software que no será útil”, enfatiza el investigador CENIA.
En este sentido, Buc plantea que el desarrollo y aplicación de una IA en la sociedad debe incorporar diversas reflexiones:
«¿Cómo podría la IA que diseñamos, adquirimos e implementamos plantear riesgos éticos inevitables? ¿Cómo los identificamos y mitigamos sistemáticamente y de manera integral? Si los ignoramos, ¿cuánto tiempo y trabajo nos llevaría responder a una investigación regulatoria? ¿Cuánto tendríamos que gastar para reconstruir la confianza del consumidor y del público, suponiendo que el dinero pudiera resolver el problema?»
Precisamente estos cuestionamientos, fueron parte del análisis que Cristian Buc realizó con los alumnos de la Universidad Andrés Bello. Billy Peralta, académico de la Facultad de Ingeniería UNAB, destaca que:«Al exponer a los estudiantes a la IA desde temprano, tanto a nivel de aplicación como de fundamentos, se les prepara para tener las competencias necesarias en el mercado laboral futuro y aprovecharlas de manera efectiva en su desarrollo profesional. Asimismo, los anima a explorar nuevas ideas y aplicaciones creativas de esta tecnología motivando posibles emprendimientos».
De qué es capaz la inteligencia artificial
Una de las definiciones de CENIA es que buscan “transformar a Chile en pilar del desarrollo científico y tecnológico de la IA”. En este sentido, han estado desarrollando proyectos que Buc destacó en su charla, como uno de “agro-satélite”, el cual les permitió obtener información a nivel nacional sobre estadísticas de producción agrícola. Asimismo, adelanta que están comenzando otro con CONAF, “en el cual, a través de cámaras que localizamos en puntos estratégicos, podemos aplicar una detección temprana de incendios”.
En su presentación el investigador planteó la pregunta: “De qué es capaz la inteligencia artificial”. Al respecto, explica que es una tecnología “pervasiva, en el sentido que prácticamente todas las industrias están usando alguna forma de inteligencia artificial”.
“La IA generativa ha abierto más aún las puertas para desarrollos novedosos. La empresa Midjourney propone una IA de generación (text-to-image) de fotos/dibujos de una calidad impresionante a través de instrucciones escritas (i.e., un prompt). Esas fotos pueden ser apoyo de creatividad para arquitectos, artistas, tatuadores. Modelos similares de IA generativa (en este caso image-to-text) pueden por ejemplo tomar como input una foto de pulmones y poder generar un reporte médico asociado a esa foto”. “Básicamente, la limitación del uso de la IA es en muchos casos la creatividad humana”, concluye Cristian Buc.
