top of page
Other Languages:
INTELIGENCIA ARTIFICIAL
Y EL DERECHO A LA VIDA
Under the Patronage of UNESCO
Logotipo financiero
EVENTOS PASADOS
- Marzo 2023 -
En el marco del simposio
DERECHO EN LA SOCIEDAD DE LA INFORMACIÓN
organizado por el Instituto de Derecho Comparado, la gerente del grupo del proyecto,Prof. Dra. Vasilka Sancin, realizó una presentación sobre el tema de la
la inteligencia artificial y los derechos humanos.
El simposio tuvo lugar el 17 de marzo de 2023
en la Facultad de Derecho de la UL.
Su intervención puso de relieve la dificultad de adoptar una definición global de la inteligencia artificial (IA) a la luz de los constantes e imprevisibles avances tecnológicos. Además, destacó en particular los esfuerzos realizados por la UNESCO para adoptar el marco de la Recomendación sobre la ética de la inteligencia artificial.
En el ámbito de la Unión Europea, presentó la propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas sobre la inteligencia artificial (Ley IA). A este respecto, subrayó que se trata de documentos tecnológicamente neutros y que los Estados tienen la obligación independiente de adaptarse a la evolución tecnológica y de adoptar las medidas adecuadas para proteger los derechos humanos. Señaló que las nuevas tecnologías tienen efectos tanto positivos como negativos. También subrayó que la propuesta adopta un punto de vista muy antropocéntrico, centrándose en los riesgos que estas tecnologías pueden suponer para los seres humanos, pero no tiene en cuenta los posibles riesgos medioambientales de estas tecnologías.
Por último, propuso la adopción de códigos de conducta adecuados y subrayó que la perspectiva de los derechos humanos debe tenerse en cuenta a lo largo de todo el ciclo de vida de la IA, es decir, desde su mismo diseño. Sólo así se podrá evitar la creación de una IA que luego haya que eliminar progresivamente.
- November 2022 -
En el marco del Tribunal Simulado de Derecho Internacional Humanitario y de los Refugiados, el Grupo de proyecto de la Facultad de Derecho de la Universidad de Liubliana ha organizado el 15 de noviembre de 2022:
MESA REDONDA:
EL USO DE LA INTELIGENCIA ARTIFICIAL EN LA PRÁCTICA:
PERSPECTIVAS DEL DERECHO INTERNACIONAL HUMANITARIO Y PERSPECTIVAS DEL DERECHO DE
LOS REFUGIADOS
El 15 de noviembre de 2022, el Grupo de Proyectos de la Facultad de Derecho de la UL organizó una mesa redonda en el marco del All-European International Humanitarian and Refugee Law Moot Court, en la que se abordaron los aspectos humanitarios de las cuestiones jurídicas que se plantean en el contexto del rápido desarrollo de las tecnologías militares de IA.
El primer ponente fue el profesor Yuval Shany, que habló sobre el uso de armas autónomas letales, a las que se refirió como "robots asesinos". Enumeró tres tipos de preocupaciones que el CICR plantea regularmente en relación con el desarrollo acelerado de la tecnología: problematizó la generalización de la tecnología y subrayó la preocupación por la calidad de las decisiones, destacó la falta de compasión y humanidad en la toma de decisiones de la tecnología, y también se refirió al aspecto ético.
Señaló que en la actualidad no existe un marco jurídico que prohíba estas armas autónomas letales, ni existe un tratamiento específico de la IA en el derecho internacional, sino que se aplican los principios generales del derecho internacional humanitario, así como el derecho de los derechos humanos. A este respecto, se recuerda que el Comité de Derechos Humanos de la ONU también ha declarado en su Observación General nº 36 que "tales sistemas de armas no deberían desarrollarse y utilizarse a menos que su uso se considere conforme al artículo 6 del Pacto Internacional de Derechos Civiles y Políticos, y a otras normas pertinentes del derecho internacional".
Le siguió Rebeca Moreno Jiménez, de la Oficina del Alto Comisionado de las Naciones Unidas para los Refugiados (ACNUR), que habló sobre este tema desde la perspectiva de las crisis de refugiados y la migración. Destacó que el mandato de ACNUR incluye la necesidad de adoptar enfoques innovadores, que son posibles gracias a la evolución de la tecnología. Como ejemplo, destacó el Proyecto Jetson, que utilizó la recopilación de datos analíticos para predecir el movimiento de las poblaciones desplazadas en Somalia.
Subrayó que el trabajo del Alto Comisionado para los Refugiados está especialmente atento al respeto de los derechos humanos, y que su enfoque se basa en tres elementos clave: la ciencia de los datos, el trabajo del equipo de derechos humanos (que introduce estos datos en las máquinas, teniendo cuidado de evitar posibles discriminaciones), y las prioridades humanitarias. Por último, destacó el actual vacío legal en este ámbito, especialmente en el contexto de la cuestión de los refugiados.
Minimal Title
Grupo de proyecto de la Facultad de Derecho de la Universidad de Liubliana
organizó en collaboración con Geneva Graduate Institute a
Simposio Mundial de Innovación en Tecnología de la Salud
2 de noviembre de 2022, Ginebra
Los miembros del grupo del proyecto Prof. Dr. Vasilka Sancin y As. Tadeja Urbas organizaron un simposio sobre salud mundial el 2 de noviembre de 2022 en Ginebra, en colaboración con el Instituto de Posgrado de Ginebra.
En el debate se abordó el rápido desarrollo de la tecnología sanitaria y su potencial para dar lugar a importantes avances tecnológicos en la salud mundial. Sin embargo, estos avances tecnológicos también plantean varios retos que las tecnologías digitales de la salud pueden traer consigo (entre otros, los retos de la disponibilidad y la calidad de los datos, los retos de la privacidad y la ética de los datos, los retos normativos y políticos, así como los retos de la integración y la capacidad).
En el evento se examinaron los beneficios potenciales de las formas innovadoras de prestar servicios sanitarios, se consideraron sus obstáculos actuales y se analizó el escaso marco jurídico contemporáneo que rodea los rápidos avances tecnológicos en la salud mundial.
Minimal Title
.jpeg)
- Junio 2022 -
Grupo de proyecto de la Facultad de Derecho de la Universidad de Liubliana
participó en el
ILA 2022 - 80ª Conferencia Bienal,
19 - 24 de junio, Lisboa
Los miembros del grupo de proyecto, la profesora adjunta Dra. Maša Kovič Dine y assistente Tadeja Urbas, asistieron a la 80ª Conferencia Bienal de la ILA, celebrada en Lisboa del 19 al 24 de junio, donde representaron las ideas del grupo de trabajo.
Tadeja Urbas fue seleccionada para presentar su ponencia "¿Abrirá la caja de Pandora la regulación de la inteligencia artificial?" en el panel "Jóvenes Académicos", bajo el tema de Nuevas Tecnologías y Derecho Internacional. Un análisis crítico del marco jurídico internacional contemporáneo de la inteligencia artificial y su impacto en la protección del derecho a la vida".
En su presentación, expuso el marco legal actual para la regulación de la IA, incluyendo la Recomendación de la OCDE sobre la IA, los Principios del G20 sobre la IA, la Recomendación de la UNESCO sobre la Ética de la IA y el Reglamento de la UE sobre la IA. En este contexto, subrayó que actualmente no se ha adoptado una gobernanza integrada de la IA que equilibre eficazmente los intereses contrapuestos de las empresas privadas con la protección de los derechos humanos. Pidió un marco legal global que cubra las especificidades de la IA, es decir, su rápida e impredecible evolución.
Subrayó que el nuevo marco jurídico tendrá que basarse en un enfoque descendente, basado en la transparencia y la disponibilidad, en el que no se exigirá la divulgación completa del sistema de IA, sino sólo la divulgación de cierta información técnica clave para facilitar una evaluación del impacto sobre los derechos humanos más precisa y oportuna.
Minimal Title
- Mayo 2022 -
El grupo de proyecto de la Facultad de Derecho
de la Universidad de Ljubljana organizó
Simposio: Garantizar el derecho a la vida en el uso
y desarrollo de la inteligencia artificial
El simposio se llevó a cabo el jueves y viernes 19 y 20 de mayo de 2022
en Dolenjske toplice.
Durante el simposio el Centro Internacional de Investigación de Inteligencia Artificial bajo los auspicios de la UNESCO (IRCAI) se presentó, junto con sus actividades. Los miembros de IRCAI también presentaron la Recomendación de la UNESCO sobre la ética de la inteligencia artificial.
Mitja Jermol, miembro de IRCAI, presentó la definición de inteligencia artificial y destacó que la definición presentada se basa en la comprensión tanto legal como técnica de la IA. Explicó que la inteligencia artificial es una herramienta técnica de las personas que trabaja sobre el conocimiento de las personas y, por lo tanto, representa solo un espejo de todos los prejuicios humanos. Por eso es crucial que sigamos siendo críticos con los resultados que produce la inteligencia artificial.
Matej Kovačič, miembro de IRCAI, señaló que la inteligencia artificial solo busca una mayor eficiencia. También hizo hincapié en que la inteligencia artificial ya tenía algunos aspectos negativos, p. cuando se utilizan armas autónomas (p. ej., Clearview) o drones (p. ej., KUL-BLA ruso). La inteligencia artificial también puede socavar la democracia. Por lo tanto, es crucial ser consciente de que la inteligencia artificial es solo una herramienta, como un cuchillo que puede usarse para bien o para mal.
Mihajela Črnko, Directora de Comunicaciones de IRCAI, presentó el centro de investigación en sí desde 2020, cuando se estableció, y sus actividades actuales. Se centró principalmente en su red (NAIXUS) de centros de investigación y el proyecto TOP 100.
El profesor Yuval Shany, sin embargo, se centró en su presentación en armas autónomas e inteligencia artificial. Señaló que el incentivo para crear armas autónomas solo está aumentando, ya que pueden causar más daño, ser más precisos y, por lo tanto, amenazar significativamente menos a sus propias tropas. El problema actual con estas armas, sin embargo, es que la ley va a la zaga del desarrollo de estas tecnologías y no regula su uso. Sin embargo, el artículo 36 del Protocolo Adicional a los Convenios de Ginebra establece que cualquier desarrollo de nuevas armas debe incluir una evaluación de la legalidad de su uso y la consideración de la compatibilidad de esas armas con el derecho humanitario y de derechos humanos. La pregunta, entonces, no es si vamos a prohibir estas armas, sino determinar el grado de responsabilidad previa y posterior por el uso de estas armas. Sin embargo, el problema de la “caja negra”, en la que no sabemos cómo funcionan los dispositivos y tomamos decisiones, sigue siendo problemático, lo que dificulta significativamente su regulación y atribución de responsabilidades.
Minimal Title
- Abril 2022 -
El grupo de proyecto de la Facultad de Derecho
de la Universidad de Ljubljana organizó
Simposio sobre Inteligencia Artificial y Derecho Espacial:
Debate sobre la regulación jurídica de la inteligencia artificial y el derecho espacial en el futuro y su impacto en
el derecho a la vida
La mesa redonda se realizó en el martes 26 de abril de 2022
en el Sala de conferencias dorada de la Facultad de Derecho de la Universidad de Ljubljana
y era accesible para seguir en línea.
La primera panelista fue la profesora Rebecca Bresnik, Consejera en Jefe Adjunta para Asuntos Internacionales de la NASA y Profesora de Derecho Espacial en la Universidad de Houston, EE. UU.
En su presentación, se refirió a las cuestiones de responsabilidad en el contexto de los viajes espaciales
y los vehículos espaciales.
El segundo panelista fue el profesor dr. Jan Wouters, Profesor de Derecho Internacional y Director del Centro de Estudios de Gobernanza Global en Lovaina, Bélgica. En su presentación, destacó los desafíos futuros de la regulación del Derecho Espacial en el contexto de la inteligencia artificial emergente, la creciente proliferación de nuevos sujetos jurídicos en el plano internacional y el fenómeno del “envejecimiento del Derecho de los Tratados”. Por lo tanto, subrayó la importancia de seguir desarrollando el derecho indicativo para la regulación efectiva de la inteligencia artificial.
El tercer panelista fue Iva Ramuš Cvetkovič, investigadora en el Instituto de Criminología de la Facultad de Derecho de Ljubljana y estudiante de doctorado en la Facultad de Derecho de la Universidad de Ljubljana. En su presentación presentó las "amenazas del cielo", y la cuestión de si el Derecho Espacial ofrece un marco legal apropiado para abordar los peligros potenciales que plantea la tecnología espacial que pueden violar el derecho a la vida.
El simposio fue moderado por profesora dr. Vasilka Sancin, Jefa del Departamento de Derecho Internacional de la Facultad de Derecho de la Universidad de Ljubljana y la Profesora de Derecho Internacional.
Minimal Title
.jpeg)
El grupo de proyecto de la Facultad de Derecho de la Universidad de Ljubljana
fue invitada a participar en el evento de apertura de EQUALS-EU Innovation Camp 2022,
organizada por el Centro de Género del Instituto de Graduados de Ginebra.
El debate tuvo lugar el martes, 12 de abril de 2022 en línea sobre el tema
"Comprender la(s) violencia(s) en línea y Pathways for Justice"
En la mesa redonda intervinieron la Sra. Eniola Mafe (Jefe del Proyecto Visión 2030 en el Departamento de Tecnología y Desarrollo Sostenible del Foro Económico Mundial), la Sra. Tamara Dancheva (Jefa de Relaciones Internacionales en el Departamento de Relaciones Exteriores e Industria del GSMA), Sra. Caroline Wamala-Larsson Profesora Asistente de Estudios de Género y Jefa de Investigación en el Programa Sueco de TIC en Regiones en Desarrollo (SPIDER) en la Universidad de Estocolmo)
y en nombre del grupo de proyecto de la Facultad de Derecho en Ljubljana, as. Tadeja Urbas.
El debate fue moderado por el Dr. Claire Somerville, Directora Ejecutiva del Centro de Género IHEID.
Minimal Title
- Marzo 2022 -
El grupo de proyecto de la Facultad de Derecho de la Universidad de Ljubljana coorganizó con el Graduate Institute Geneva
MESA REDONDA
IA en el futuro: Mesa redonda sobre los impactos de la inteligencia artificial en los derechos humanos, la salud mundial y la consolidación de la paz
Minimal Title
El tema principal destacado durante la mesa redonda fue el futuro de la inteligencia artificial en tres esferas diferentes, a saber, los derechos humanos, la consolidación de la paz y la salud mundial. Cada segmento trató de subrayar la interrelación y el impacto del desarrollo y uso de la IA y los desafíos que enfrentan debido a los numerosos avances en la ciencia y el desarrollo de nuevas tecnologías.
Professora Vasilka Sancin, PhD, líder del Departamento de Derecho Internacional de la Facultad de Derecho de Ljubljana y el líder del Proyecto del Grupo de Investigación sobre IA y Derecho a la vida en Ljubljana, destacó cuestiones relacionadas con la protección de los derechos humanos y destacó que será necesaria una futura regulación de la inteligencia artificial. Sin embargo, también señaló el peligro de la sobrerregulación y la fragmentación.
Susanne Andreae, PhD, Jefa de Salud y la Industria de la Salud en el Foro Económico Mundial en Ginebra, señaló que si bien todavía estamos en las primeras etapas del desarrollo de la inteligencia artificial, es importante que adoptemos una regulación adecuada y establezcamos tendencias de calidad, asequibilidad y manejo adecuado. Solo así podremos evitar profundizar las diferencias ya existentes entre países de ingresos altos y bajos.
Mehdi Snene, PhD, Profesor Asistente en la Universidad de Ginebra y Jefe de los Grupos Internacionales de Investigación sobre Salud Digital e Inteligencia Artificial en Ginebra (I-DAIR), destacó la importancia de discutir una estrategia global de datos de salud y destacó la necesidad de promover una país con bases de datos deficientes. para acelerar el proceso de digitalización. Hizo hincapié en que la inteligencia artificial es simplemente una herramienta en manos de la gente, y pidió el desarrollo de capacidades en el sur global que podría contribuir aún más al desarrollo de una inteligencia artificial accesible.
Mariazel Maqueda López, PhD, Jefa del Departamento PeaceTech del Instituto Federal de Tecnología de Lausana (EPFL), describió sus dos proyectos principales de trabajo, realizados en colaboración con el Graduate Institute Geneva. El primer proyecto explora el uso de la inteligencia artificial en relación con los medios de comunicación y se centra principalmente en las formas de identificar los nuevos falsos, mientras que el segundo explora cómo la tecnología facilita la violencia de género.
Señora Caitlin Kraft-Bauchman, fundadora y directora de la organización feminista Women at the Table, que se enfoca en cambiar sistemas usando tecnología, innovación e inteligencia artificial, habló sobre el sesgo de los algoritmos que han sido seleccionados y estandarizados por "hombres blancos". Señaló que es importante observar quién desarrolla algoritmos y quién hace preguntas que son relevantes para el desarrollo posterior de la inteligencia artificial.
bottom of page