La inteligencia artificial avanza a un ritmo acelerado y ya forma parte de la vida cotidiana de millones de personas. Sin embargo, ese crecimiento también ha despertado preocupaciones sobre los riesgos que enfrentan niñas, niños y adolescentes en el entorno digital. Ante este escenario, la Organización de las Naciones Unidas impulsa un pacto mundial para establecer reglas que garanticen que estas tecnologías sean desarrolladas y utilizadas pensando siempre en el bienestar de la infancia.
La propuesta plantea que las empresas tecnológicas y los gobiernos coloquen los derechos de los menores en el centro del diseño de las herramientas basadas en inteligencia artificial. El objetivo es evitar que los sistemas expongan a los niños a contenidos perjudiciales, manipulación, discriminación, pérdida de privacidad o prácticas que puedan afectar su desarrollo emocional y psicológico.
Uno de los principales desafíos es que muchas plataformas utilizan algoritmos capaces de recopilar grandes cantidades de información personal para ofrecer contenido personalizado. Especialistas advierten que, sin regulaciones claras, estos sistemas pueden influir en el comportamiento de los menores o poner en riesgo sus datos personales, especialmente cuando aún no cuentan con las herramientas necesarias para identificar esos peligros.
El acuerdo también propone que las aplicaciones impulsadas por inteligencia artificial sean más transparentes y expliquen de forma sencilla cuándo un usuario está interactuando con una máquina. Además, busca que las plataformas incorporen mecanismos de protección, supervisión y respuesta rápida frente a situaciones de abuso, acoso o contenido inapropiado dirigido a menores de edad.
La discusión cobra relevancia en un momento en que la inteligencia artificial ya está presente en la educación, los videojuegos, las redes sociales y diversas aplicaciones utilizadas diariamente por millones de niños alrededor del mundo. Aunque estas herramientas ofrecen importantes beneficios para el aprendizaje y la creatividad, organismos internacionales consideran indispensable que su desarrollo vaya acompañado de principios éticos y normas que reduzcan los riesgos.
Con esta iniciativa, la ONU pretende abrir un diálogo global sobre el futuro de la inteligencia artificial y la responsabilidad de quienes la desarrollan. La apuesta es construir un entorno digital donde la innovación avance de la mano de la protección de los derechos de la infancia, garantizando que la tecnología contribuya al desarrollo de las nuevas generaciones sin comprometer su seguridad.