Editor: Eduardo Magrani, Coordenador do Instituto de Tecnologia e Sociedade do Rio de Janeiro (ITS Rio) / Senior Fellow na Humboldt University / Professor de Propriedade Intelectual e Direito e Novas Tecnologias na FGV, IBMEC e PUC-Rio.
Actualmente, los jóvenes conviven en un espacio de «polimedia» en donde experimentan la vida social a través de múltiples tecnologías, muchas veces haciendo uso directo o indirecto de algoritmos complejos que toman decisiones y se adaptan al usuario en un contexto de hiperconectividad y personalización de la información. A diferencia de las anteriores, la presente generación de jóvenes se encuentra en una situación de desarrollo casi simbiótico con productos y servicios tecnológicos que tienen una presencia constante y ubicua en sus vidas.
En el contexto de una sociedad que se configura como una red de actores, la constante interacción de las generaciones más jóvenes con agentes no humanos, con cosas conectadas, algoritmos e inteligencias artificiales, componentes del escenario reciente del Internet de las Cosas (IoT), trae desafíos significativos en relación a la protección de la privacidad y seguridad, así como, en última instancia, a su propio bienestar y desarrollo.
A pesar de que ya son notorios, por ejemplo, casos de pornografía infantil a través de Internet, la carencia de media literacy y amenazas de forma general a la seguridad y privacidad de los jóvenes, los efectos perjudiciales y los riesgos de este escenario todavía no están completamente investigados y carecen de un marco jurídico. Cabe señalar que algunos países de América Latina aún no tienen leyes adecuadas de protección de la privacidad (teniendo como parámetro el Reglamento General de Protección de Datos en Europa), capaces de proteger al usuario en ese contexto de la recolección y tratamiento abusivo de datos personales.
En este sentido, en lo que se refiere a la responsabilización de actores, no tenemos un paradigma jurídico que sea capaz de comprender la participación y responsabilidad de los diferentes actores involucrados en la cadena de producción e implementación de inteligencias artificiales. Este fenómeno se manifiesta en la perplejidad de la comunidad jurídica ante los nuevos desafíos traídos por los sistemas computacionales, cada vez más inteligentes. Otro punto importante en este contexto es que la toma de decisiones automatizada a través de algoritmos o inteligencia artificial es frecuentemente desarrollada por empresas que prestan servicios a nivel global, carentes a menudo de un enfoque más inclusivo que considere los diferentes contextos culturales y sociales locales que no sean aquellos en que tales tecnologías se proyectan.
Incluso, vale mencionar que dentro de las propias instituciones no hay, muchas veces, una preocupación por la protección de los derechos fundamentales de los usuarios de sus dispositivos y plataformas. La situación sigue siendo más grave cuando se percibe que la mayoría de los servicios de IA son desarrollados para un público adulto, presumiendo todas las capacidades jurídicas y psicofísicas que integran esa figura, y raramente anticipan el contexto, restricciones y riesgos al público joven.
Además, la ausencia de un debate maduro en la esfera pública latinoamericana sobre las cuestiones éticas vinculadas a la inteligencia artificial y a los algoritmos que interactúan cada vez más con el público joven, deja un vacío regulatorio y político en esa área.
Esta sección, por lo tanto, analizará los impactos de estas nuevas tecnologías bajo el prisma de la seguridad, la privacidad y el bienestar, ya que influencian cada vez más las nuevas generaciones a través de la tecno-regulación y operan muchas veces por encima del Derecho como inductores de comportamiento.
Los ejes temáticos propuestos para los capítulos de esta sección se vinculan a:
- Marcos regulatorios de seguridad y privacidad en América Latina: ¿Cuál es el papel del Derecho en la concreción de esas garantías a la luz de los nuevos riesgos planteados por los ambientes automatizados?
- Diseño sensible a los valores (privacidad, seguridad y ética del diseño): ¿De qué forma los valores que se asignan a la esfera de la juventud deben ser incorporados al proceso de diseño de los servicios y productos ligados a la inteligencia artificial?
- Vulnerabilidad de jóvenes y niños a ciberataques: ¿Cómo proteger a los jóvenes de los riesgos derivados de la acción de terceros en el mundo digital?
- Vicios tecnológicos: ¿Cuál es el impacto de las nuevas tecnologías en el desarrollo escolar y las competencias cognitivas de los jóvenes?
- Capacitación digital para jóvenes: ¿Cómo promover la capacitación digital y el desarrollo de habilidades para los jóvenes en el ambiente virtual y automatizado?
- Filter bubble y polarización de jóvenes: ¿Cuál es el impacto de la filtración algorítmica y la personalización de información para el acceso a la información y el proceso decisorio de los jóvenes?
- Pornografía infantil: En el ámbito de la lucha contra la pornografía, ¿cuáles son las técnicas y herramientas digitales adecuadas, así como el aparato jurídico y fiscalizador necesario para reducir los riesgos y daños?
- Cyberbullying: ¿Cómo la tecnología puede agravar prácticas nocivas de bullying involucrando a niños y adolescentes?
- Internet de los juguetes: ¿Cuáles son los riesgos y beneficios de la interacción entre niños y juguetes conectados?
Biografía del editor de sección
PhD. and Coordinator of the Institute for Internet and Society of Rio de Janeiro (ITS Rio). Senior Fellow at the Alexander von Humboldt Institute for Internet and Society in Berlin. Eduardo Magrani has been working with public policy, Internet regulation and Intellectual Property since 2008. Professor of Law and Technology and Intellectual Property at FGV Law School, UERJ, IBMEC and PUC-Rio. Researcher and Project Leader at FGV in the Center for Technology & Society (2010-2017). Author of the books «The Internet of Things» (2018), «Among Data and Robots: Ethics and Privacy in the Age of Artificial Intelligence» (forthcoming, 2018), “Digital Rights: Latin America and the Caribbean” (2017) and «Connected Democracy» (2014). Associated Researcher at the Law Schools Global League and Member of the Global Network of Internet & Society Research Centers. Ph.D. and Master of Philosophy (M.Phil.) in Constitutional Law at Pontifical Catholic University of Rio de Janeiro with a thesis on Internet of Things and Artificial Intelligence through the lenses of Privacy Protection and Ethics. Bachelor of Laws at PUC-Rio, with academic exchange at the University of Coimbra and Université Stendhal-Grenoble 3. Lawyer, acting actively on Digital Rights, Corporate Law and Intellectual Property fields. Magrani has been strongly engaged in the discussions about Internet regulation and was one of the developers of Brazil’s first comprehensive Internet legislation: Brazil’s Internet Bill of Rights (“Marco Civil da Internet”). Eduardo has coordinated at FGV the Access to Knowledge Brazil Project, as Project Manager, participating and interested in the copyright reform, intermediary liability and Internet regulation policies in Brazil. Coordinator of Creative Commons Brazil and the Digital Rights: Latin America and the Caribbean Project since 2012, jointly with prestigious Latin American organizations. Currently he coordinates several projects as coordinator of Law and Technology of ITS Rio.