Inteligencia artificial: del vacío legal a la regulación
De Sillicon Valley a Burzaco: Un joven argentino compró el dominio de google.com.ar. Un hábeas data en contra de Google. UK demanda a #TikTok. Monedas digitales en la Unión Europea.
UE y USA: propuestas para regular la inteligencia artificial
Hace algunos días, la Comisión Europea presentó la Propuesta para la Regulación de Inteligencia Artificial (Proposal for a Regulation of the European Parliament and of the Council laying down harmonised rules on artificial intelligence- artificial intelligence act), cuyo objetivo principal es establecer normas armonizadas sobre IA.
Para comenzar este artículo deberíamos primero definir qué es la inteligencia artificial (“IA”). Tomando una de las tantas definiciones, la revista de tecnología del MIT (Massachusetts Institute of Technology) la define como la búsqueda de construir máquinas que puedan razonar, aprender y actuar de manera inteligente. Por otro lado, el Parlamento Europeo la define como la habilidad de una máquina de presentar las mismas capacidades que los seres humanos, como el razonamiento, el aprendizaje, la creatividad y la capacidad de planear.
Pero, ¿qué tendrá que ver el derecho con todo esto? Mucho. No, no es que los abogados queremos estar en todos lados- o sí- pero si bien la IA es una gran herramienta y nos facilita la vida en muchísimas ocasiones, también tiene su lado B. Si hablamos de reconocimiento facial, se han detectado desde su implementación cientos de casos de discriminación. Si pensamos en machine learning para scoring crediticios, no siempre es equitativo. Y así, los ejemplos son muchos. Principalmente, porque uno de sus riesgos son los sesgos. Y con ellos, se avasallan derechos fundamentales, como la dignidad humana, la igualdad, la no discriminación y la protección de datos personales, entre otros. Como consecuencia, los estados se han propuesto en los últimos años regular esta tecnología, que es tan increíble como peligrosa.
Retomando la Propuesta de la Comisión Europea, la misma llegó poco más de un año después del White Paper sobre IA, el cual estableció políticas para alcanzar el doble objetivo de promover la adopción de la misma y, simultáneamente, abordar el riesgo asociado con algunos de sus usos. Luego de la publicación del White Paper, se abrió una consulta pública online cuyo objetivo era recoger opiniones del sector público y privado, incluyendo gobiernos, autoridades locales, expertos, académicos y ciudadanos. La mayoría de los participantes coincidió en la existencia de brechas legislativas, y en la necesidad de legislar en materia de IA.
En líneas generales, la Propuesta consta de 85 artículos cuyo objetivo principal es, mediante un conjunto de normas y acciones, convertir al continente Europeo en el centro mundial de la IA de confianza. Para regular a la IA, se establecieron 4 enfoques de los sistemas existentes, basados en el riesgo que cada uno de ellos implica:
📌 Sistemas de riesgo inaceptable: aquellos que son una clara amenaza para la seguridad, los medios de vida y los derechos de las personas (por ejemplo los sistemas que permiten el scoring social por parte de los gobiernos).
📌 Sistemas de alto riesgo: IA utilizada en el transporte (por ejemplo, los autos autónomos) que podrían poner en riesgo la vida y la salud de los ciudadanos, como así también los sistemas de identificación biométrica, softwares de clasificación de CVs para los procedimientos de contratación, entre otros. Los mismos estarán sujetos a estrictas obligaciones antes de su comercialización.
📌Sistemas de riesgo limitado: aquellos sistemas de IA cuyo empleo conlleva obligaciones de transparencia, como por ejemplo los asistentes conversacionales ante los cuales los usuarios deben ser conscientes que están interactuando con una máquina para poder tomar una decisión informada de continuar o retroceder.
📌 Sistemas de riesgo mínimo: La Comisión considera que la gran mayoría de los sistemas de IA entran en esta categoría. En estos, el proyecto del Reglamento no interviene, ya que el riesgo de afectación de los derechos de los ciudadanos es mínimo o incluso nulo.
En cuanto a la Gobernanza, proponen "sandboxes" reglamentarios para facilitar la innovación responsable. En este contexto, la Comisión también presentó una propuesta de Reglamento sobre máquinas (impresoras 3D o máquinas de construcción, entre otras) para garantizar la seguridad de los usuarios y consumidores, y fomentar la innovación.
Analizada la Propuesta Europea, viajamos ahora al continente americano donde también hay novedades en materia de IA. A través de una publicación en su blog, la Comisión Federal de Comercio de Estados Unidos, anunció que planea ir tras las empresas que utilizan y venden algoritmos sesgados (si bien la Agencia vigila las prácticas comerciales desleales y deshonestas, no tiene jurisdicción sobre agencias gubernamentales, bancos ni organizaciones sin fines de lucro). Mediante una serie de recomendaciones, le recuerda a las empresas que el uso de IA en su actividad y procedimientos debe respetar las exigencias generales destinadas a garantizar el respeto a los principios de verdad, imparcialidad y equidad del procesamiento. Por último, estableció como principios los de prevención de resultados discriminatorios, revelar el verdadero uso de los datos y aportar más beneficio que perjuicio.
El tema es extenso y se presta para variados debates. Si bien los activistas y defensores de los derechos humanos vienen reclamando hace tiempo la regulación de la inteligencia artificial, no ha sido un tema principal de agenda política hasta hace poco. Con el correr de los años, se irán suscitando cada vez más conflictos legales en los cuales la IA será protagonista de la escena. Seguimos de cerca las propuestas de marcos regulatorios que analizarán los distintos países, como también las decisiones judiciales que marquen precedentes en la materia.
DOMINIOS DE INTERNET
De Sillicon Valley a Burzaco
La semana pasada, hubo una historia que fue furor en los noticieros, y viral en redes sociales: Un joven argentino compró el dominio de google.com.ar.
Pero antes de seguir: ¿qué es un dominio? Un dominio es un nombre único que identifica a una página web. Ejemplos de dominios son wikipedia.org, mercadolibre.com y, por supuesto, google.com.ar.
Los dominios pueden registrarse ante distintos organismos y páginas web que funcionan como administradores del registro de dominios. En nuestro país, la institución oficial encargada de administrar los registros del dominio “.ar” es nic.ar, perteneciente a la Dirección Nacional del Registro de Dominios de Internet y bajo la órbita de la Secretaría Legal y Técnica de la Presidencia de la Nación.
Al ingresar a nic.ar, uno puede realizar búsquedas de dominios para saber si los mismos se encuentran disponibles. En caso de estar disponible, uno podría registrar un dominio a su nombre por la módica suma de $270. Una vez registrado el dominio, el titular puede hacer uso de la página web correspondiente a ese dominio por un año, plazo en el que deberá renovar la inscripción.
Nicolás Kuroña, un diseñador de páginas web a quién Internet apodó cariñosamente como “Nico de Burzaco”, entró a nic.ar el pasado miércoles por la noche, escribió google.com.ar en el buscador de dominios y se encontró con una sorpresa: el dominio figuraba como “disponible”. Sin desperdiciar un solo segundo, lo registró a su nombre.
Esta situación se viralizó, y rápidamente Nico de Burzaco salió a aclarar la situación por medio de su cuenta de Twitter (@Argentop). En la plataforma del pajarito, dijo: “Quiero aclarar que entre a http://nic.ar vi el nombre de google.com.ar disponible y lo compre legalmente como corresponde!”
La versión del argentino es que el miércoles intentó entrar a Google, y le salió una página de error. Es que google.com.ar se había caído, y no estaba funcionando. Sin embargo, en vez de entrar a Instagram, o de seguir viendo una serie en Netflix, como hizo la mayoría de nosotros, a Nico se le ocurrió ver qué había pasado con el dominio de la gigante de Sillicon Valley. Y el resto, es historia.
Los memes no se hicieron esperar. Desde Nico de Burzaco metiéndole un gol con la mano a los ingleses (que en este caso, eran Google), hasta imágenes de los Simuladores, el hecho se convirtió en un fenómeno en las redes sociales. No sólo eso, sino que el evento tuvo cobertura internacional: la BBC publicó un reportaje que le hizo al protagonista de la historia.
Sin embargo, la hazaña duró poco. Rápidamente, y para calmar nuestra ansiedad millenial, Google recuperó el dominio de google.com.ar y todos pudimos seguir con nuestras vidas (y saber a qué hora iba a jugar River con Fluminense el jueves, por ejemplo).
Hasta el momento, no está claro lo que sucedió. Para que Nicolás pudiera registrar el dominio a su nombre, debería haber vencido el registro de Google sin que la empresa lo advirtiera. Pero, según trascendió desde la cuenta de Twitter “Dominios Argentinos” (@dominiosAR), el dominio de google.com.ar no se encontraba vencido. Lo mismo sostuvo la consultora Open Data Córdoba, empresa dedicada a rastrear registros y vencimientos de dominios en Argentina. Si no hubiera estado vencido el registro, debería haber existido una transferencia del registro del dominio a favor del joven emprendedor.
Además, para sumar al escenario de extrañezas, en la madrugada del jueves nic.ar también dejó de funcionar. Cuando volvió a estar operativo, el registro de google.com.ar figuraba nuevamente a nombre de Google INC. El joven dijo a la BBC que no sólo no tuvo contacto con nadie de Google, sino que el registro a su nombre fue dado de baja, y nadie le reintegró los $270 que había pagado a nic.ar.
El caso lejos está de haber sido resuelto, y al día de hoy tenemos más dudas que certezas. Lo que sí sabemos con seguridad, es que la aventura de Nico de Burzaco nos dejó memes que van a circular por nuestros WhatsApp durante un buen tiempo.
JURISPRUDENCIA
Un ex Presidente de Boca, Google y un Hábeas Data
La Sala II de la Cámara Nacional de Apelaciones en lo Civil y Comercial Federal hizo lugar a un Hábeas Data planteado por la hija de Pedro Pompilio -difunto ex Presidente de Boca Juniors- en contra de Google INC.
Sucedió en el marco de la causa “POMPILIO, NATALIA ANDREA c/ GOOGLE INC s/HABEAS DATA (ART. 43 C. N.)”. Natalia Pompilio había iniciado una acción en contra de Google, solicitando que se ordenara al motor de búsqueda “suprimir de sus archivos, registros, bases o bancos de datos los datos personales relacionados con el nombre de su padre Pedro POMPILIO -en lo sucesivo, P. P.- con relación a los resultados de búsqueda que -en forma inexplicable- informan que aquél murió con motivo de un supuesto e inexistente encuentro sexual con Jesica Cirio que jamás ocurrió”.
El Juez de primera instancia desestimó el pedido de la hija de Pompilio, y en contra de ese decisorio la actora interpuso un recurso de apelación.
Llegado el asunto a la Sala II de la Cámara, se dio intervención al Ministerio Público Fiscal. En su dictamen, el Fiscal Federal comenzó destacando que en casos como el de autos habían dos derechos “en conflicto”: por un lado, la libertad de expresión e información; y por el otro, el derecho a la intimidad o bien al buen nombre y honor.
Acto seguido, el Fiscal citó dos precedentes de la Corte Suprema (“CSJN”), que a nuestros #innolectores les resultarán conocidos: Belén Rodríguez y Gimbutas.
“La Corte Suprema de Justicia ha destacado el lugar preeminente que tiene la libertad de expresión en el marco de nuestras libertades constitucionales, precisando que la libertad de expresión comprende el derecho de transmitir ideas, hechos y opiniones difundidos a través de Internet (in re: “Rodríguez, María Belén”, Fallos: 337:1174, y “Gimbutas, Carolina Valeria”, Fallos: 340:1236) y así ha sido reconocido por el legislador nacional al establecer expresamente en el art. 1° de la Ley Nº 26.032 que la búsqueda, recepción y difusión de información e ideas de toda índole, a través del servicio de Internet, se considera comprendido dentro de la garantía constitucional que ampara la libertad de expresión”.
Tras dejar esto en claro, y remitiendo nuevamente al fallo Belén Rodríguez, el Fiscal destacó el rol decisivo de internet para el ejercicio de la libertad de expresión, diciendo que “desde el aspecto colectivo, Internet constituye un instrumento para garantizar la libertad de información y la formación de la opinión pública”. En cuanto a los motores de búsqueda, citó el precedente “Paquez, José c/ Google Inc. s/ medidas precautorias”, para sostener que “la actividad de los motores de búsqueda desempeña un papel decisivo en la difusión global de dichos datos en la medida en que facilita su acceso a todo internauta que lleva a cabo una búsqueda a partir del nombre del interesado”.
Volvió entonces a los hechos de la causa. Recordó que la pretensión de la actora consistía en que se ordenara el bloqueo de ciertos enlaces que se mostraban como resultados de búsqueda vinculados al nombre de su padre. Y por ello, apoyado en la doctrina del conocimiento efectivo sentada en Belén Rodríguez, sostuvo que:
“la apreciación de la procedencia de una pretensión de bloqueo de determinados resultados de búsqueda, implica de modo liminar la necesidad de efectuar un examen respecto de la licitud de los contenidos”.
Aquí, la ilicitud radicaría en que la información vinculada a Pedro Pompilio sería falsa, y su difusión afectaría el derecho a la intimidad de su familia. Sin embargo, fue claro al manifestar que no se trataba de contenido manifiestamente ilícito en los términos de la doctrina del conocimiento efectivo, y por ello, debía ser esclarecido. Recordamos que la CSJN enunció como supuestos de contenidos manifiestamente ilícitos a la pornografía infantil, datos que hicieran apología del genocidio o del racismo, imágenes notoriamente falsas, entre otros.
Para lograr ese tal esclarecimiento, el Fiscal comenzó destacando que, a pesar de que Pedro Pompilio podía ser considerado como una persona con notoriedad pública por haber sido Presidente de Boca Juniors, su rol nada tenía que ver con la información sobre las “circunstancias fácticas vinculadas con su deceso”. Por el contrario, tales circunstancias se encontraban en la esfera de su vida íntima. Además, el fallecido -según el Fiscal- nunca había exhibido su intimidad ni la de su familia.
Acudió entonces a citar el criterio de la CSJN en el fallo Ponzetti de Balvín, en los siguientes términos:
“en el caso de personajes célebres cuya vida tiene carácter público o de personajes populares, su actuación pública o privada puede divulgarse en lo que se relacione con la actividad que les confiere prestigio o notoriedad y siempre que lo justifique el interés general. Pero ese avance sobre la intimidad no autoriza a dañar la imagen pública o el honor de estas personas y menos sostener que no tienen un sector o ámbito de vida privada protegida de toda intromisión. Máxime cuando con su conducta a lo largo de su vida, no han fomentado las indiscreciones ni por propia acción, autorizado, tácita o expresamente la invasión a su privacidad y la violación al derecho a su vida privada en cualquiera de sus manifestaciones”
Finalmente, y teniendo en cuenta que la información contenida en los sitios web cuestionados respecto al padre de la actora afectaba sus derechos personalísimos, sin que existiera interés público alguno en su difusión, el representante del Ministerio Público Fiscal entendió que debía adoptarse la medida de bloqueo solicitada. Precisó también que la medida debía ir dirigida únicamente a “los enlaces o resultados de búsqueda obtenidos a partir del nombre de P. P., de las específicas direcciones (URLs) que indicó la actora”.
Todos los argumentos vertidos en el Dictamen Fiscal fueron adoptados y hechos propios por la Cámara. Pero los magistrados fueron más allá, y trajeron a colación algunos argumentos adicionales.
Por un lado, hablaron del derecho al olvido. Al respecto, dijeron:
“Así, el derecho al olvido se constituye en una herramienta eficaz para conciliar los derechos fundamentales en puja -por un lado, el derecho a la información y la libertad de expresión, y, por otro lado, el derecho a la intimidad y el honor- aportando la alternativa de desvincular de los motores de búsqueda el nombre del sujeto con relación a la noticia que se pretende suprimir, sin resultar trascendente si ésta resultaba ser veraz, siempre que la información objeto de tratamiento haya perdido actualidad, resulte irrelevante, sin ningún tipo de importancia informativa o periodística, y se encuentre privada de interés público, histórico o científico, tal como sucede en el presente caso”
Por último, insistieron en que la información cuestionada era inexacta, como había sido probado en autos, y por ello su desindexación o bloqueo resultaba necesaria.
Así, la Cámara arribó a una decisión, y fue la siguiente:
“Por los fundamentos expuestos, de conformidad con los fundamentos desarrollados por el Fiscal Federal Coadyuvante en el dictamen del 8 de octubre de 2020, se resuelve revocar la decisión apelada y hacer lugar a la acción de habeas data articulada por Natalia Andrea POMPILIO contra GOOGLE INC. En consecuencia, la empresa demandada deberá bloquear las URLs que fueron denunciadas en el escrito inaugural y por las que fue intimada el buscador, siempre que hagan referencia a la información vinculada con el fallecimiento de Pedro POMPILIO”.
Podes acceder al fallo completo haciendo click aquí.
INTERNACIONALES
UK demanda a TikTok
La app de videos ha sido demandada por incumplimiento del Reglamento General de Protección de Datos (GDPR, por sus siglas en inglés) por recopilación ilegal de datos personales de millones de niños. La misma fue interpuesta por Anna Longfield ,la ex comisaria para la infancia en el Reino Unido, en representación de 3,5 millones de menores de 13 años.
La demanda alega que TikTok infringió las normas de protección de datos de forma deliberada, tomando información personal de los niños sin previo aviso y sin transparencia. Por otro lado, los datos personales se habrían recogido sin el conocimiento de los padres y de los propios menores.
Según las políticas de TikTok en el Reino Unido, los niños menores de 13 años tienen prohibida la utilización de la aplicación. Al efecto, al descargarla se les pide que introduzcan su edad para unirse.
Anna Longfield contrató a la firma “Scott+Scott” (EEUU) y esperan que el caso llegue a marcar un precedente, no solo para TikTok, sino también para las redes sociales en general. El objetivo es por un lado, la compensación económica de los menores y sus padres, como así también, la eliminación de los datos. Y, sin dudas, buscan lograr un cambio de paradigmas en cuanto a la protección de los menores en general en este tipo de aplicaciones, cuyos usuarios son en su mayoría niños que no evalúan este tipo de cuestiones al filmarse incansablemente y compartirlo con sus amigos y followers. Cabe resaltar que solo en Europa, TikTok tiene aproximadamente 100 millones de usuarios.
La cuestión con esta app no es nueva. Hace no mucho, y antes de abandonar el poder, Trump la tenia entre ceja y ceja. Y en el año 2019, la Comisión Federal de Comercio de los Estados Unidos (FTC) la condenó a pagar una multa de 5.7 millones de dólares por violar la ley de privacidad de los niños. Así también, a principios de este año, falleció en Italia una niña de 10 años por asfixia como consecuencia de su participación en un reto llamado #BlackoutChallenge, difundido a través de TikTok. Como consecuencia, la app fue prohibida en el país europeo y se ordenó a la red social congelar el tratamiento de datos personales de usuarios cuya edad no pudiera verificarse.
INNOVACIÓN EN LA JUSTICIA
Notificaciones electrónicas
Mediante el Acuerdo N°4013 y las modificaciones introducidas por el N°4016, la Corte Suprema de la Provincia de Bs. As. aprobó el el nuevo "Reglamento para las presentaciones y las notificaciones por medios electrónicos".
El Acuerdo dispone, entre otras medidas:
📍El uso del telegrama electrónico como un nuevo medio de notificación.
📍Reafirma la generalización de los escritos electrónicos, limitándose los supuestos de articulación en soporte papel a hipótesis excepcionales.
📍La conformación de Mesas de Ayuda para asistencia de los justiciables en materia de notificaciones electrónicas respecto de los medios de acceder a la documentación.
📍Todas las notificaciones electrónicas, por regla, se tienen por notificadas los días martes y viernes posteriores a su dictado.
📍Todos los documentos por principio deben ser agregados al proceso de manera digital.
📍La exigencia del acompañamiento de copias en soporte papel cede ante la copia en formato digital (demanda, traslados) o la individualización precisa de las piezas digitales que obran en el expediente.
#CRIPTOS
CBDC en el viejo continente
En entregas anteriores hemos hablando del el yuan digital, que se encuentra en período de prueba en China. Pero las iniciativas de monedas digitales han llegado ahora a Europa.
Por el lado del Reino Unido, el Ministro de Finanzas británico, Rishi Sunak informó a los medios que están lanzando un grupo de trabajo entre el Tesoro y el Banco de Inglaterra para estudiar el desarrollo de una posible moneda digital.
Un segundo caso, es el de Noruega. Durante los próximos dos años, Norges Banks, el Banco Central de Noruega, realizará pruebas a efectos de implementar operaciones con moneda digital.
Noruega es uno de los países del mundo en el que menos efectivo se utiliza. Conforme Cointelegraph, solo el 4% de los pagos en el país son realizados con billetes y monedas. ¿Tendrá acogida esta iniciativa?
EE.UU: cripto-vigilancia
La Cámara de Representantes de Estados Unidos (equiparable a nuestra Cámara de Diputados) aprobó la ley HR 1602 a efectos de eliminar barreras a la innovación. Para lograr su objeto, la ley busca aclarar las funciones de agencias como la Comisión de Valores y Bolsa y la Comisión de Comercio de Futuros de Commodities en la vigilancia de las criptomonedas.
El Congreso debe establecer un grupo de trabajo en el plazo de 90 días, que estará compuesto por al menos un representante de empresas de tecnología financiera que brinden productos o servicios que involucran activos digitales, de empresas financieras, de organizaciones dedicadas a la investigación de uso de activos digitales, de pequeñas empresas dedicadas a la tecnología financiera y de organizaciones de protección de inversores.
Con un plazo máximo de 1 año, el grupo deberá presentar un reporte que contenga, entre otras, el marco legal de activos digitales desarrollados en Estados Unidos, incluyendo el impacto que tiene la falta de claridad en dichas regulaciones. También deberá incluir una lista de productos desarrollados en otros países que tengan un impacto en la posición competitiva de EE.UU.
Así también, deberá presentar recomendaciones para lograr una mayor equidad, eficiencia y transparencia en los mercados de activos digitales, como ser propuestas de mejores prácticas para reducir el fraude y la manipulación respecto de activos digitales.
INNOLEY RECOMIENDA
⚖Si te interesó la nota sobre el hábeas data en contra de Google, te recomendamos leer nuestra entrega del 25 de marzo. Ahí, vas a encontrar toda la información que necesitas saber relativa a los fallos de la Corte en los que Google fue parte.
👩💻 El lunes 26/4 fue el Día Mundial de la Propiedad Intelectual. Te dejamos este post de nuestros colegas peruanos, Revoredo Abogados, acerca de 4 cosas que hay que saber sobre Propiedad Intelectual. Accede aquí
✔Salió la Tercera Edición del suplemento de Innovación & Derecho de La Ley, dirigida por Demetrio Alejandro Chamatropulos. Te dejamos el link aquí.
📃 Mediante la Resolución 38/2021 se creó en la Argentina el “Centro de Géneros en Tecnología”, en el ámbito de la Secretaría de Innovación Pública, cuyo objetivo es acortar la brecha de género en materia de tecnología. Resulta interesante leer la Resolución completa ya que contiene muchos datos, como por ejemplo la tasa de feminidad del empleo asalariado en el sector de las telecomunicaciones y el plan de acción para acortar la brecha.
Querido #innolector, gracias por acompañarnos en una nueva entrega de este newsletter sobre Derecho y Tecnología.
Si el boletín te aporta información, te despierta curiosidades o simplemente es parte de tu miércoles, compartilo con tus amigos y colegas haciendo click en el botón Share Innoley.