22 oct (Reuters) -El Gobierno indio propuso el miércoles que las empresas de inteligencia artificial y redes sociales etiqueten claramente los contenidos generados por IA para atajar la difusión de "deepfakes", o videos ultrafalseados, y desinformación, motivado por medidas similares de la Unión Europea y China.
Con casi 1.000 millones de usuarios de Internet, es mucho lo que está en juego en un país en expansión con numerosas comunidades étnicas y religiosas, donde las noticias falsas crean el riesgo de provocar enfrentamientos mortales y los videos ultrafalseados generados por IA han alarmado a las autoridades durante las elecciones.
Las nuevas normas obligan a las plataformas a etiquetar los contenidos generados por IA con marcadores que cubran al menos el 10% de la superficie de una presentación visual o el 10% inicial de la duración de un clip de audio, lo que impone más responsabilidades a empresas como OpenAI, Meta, X y Google.
Este contenido se hizo gracias al apoyo de la comunidad de El Destape. Sumate. Sigamos haciendo historia.
Las empresas de redes sociales también tendrán que obtener una declaración del usuario sobre si la información cargada está generada por IA, y desplegar medidas técnicas razonables para garantizar controles y equilibrios, según el borrador de la propuesta del gobierno indio.
Las normas "garantizarán un etiquetado visible, la trazabilidad de los metadatos y la transparencia de todos los medios generados por IA que llegan al público", afirma el Ministerio de Tecnologías de la Información indio, que invita al público y a la industria a presentar sugerencias antes del 6 de noviembre.
El potencial de uso indebido de las herramientas de IA generativa "para causar daños a los usuarios, difundir información errónea, manipular elecciones o suplantar la identidad de personas ha aumentado significativamente", añadió el Gobierno.
OpenAI, Google y Meta no respondieron a las preguntas de Reuters.
Los tribunales indios están viendo demandas de alto nivel relacionadas con los ultrafalsos. Las estrellas de Bollywood Abhishek Bachchan y su esposa Aishwarya Rai Bachchan han pedido a un juez de Nueva Delhi que retire y prohíba la creación de videos de IA que infrinjan sus derechos de propiedad intelectual, y han impugnado la política de entrenamiento de IA de YouTube.
Las normas sobre la cobertura del 10% de la superficie son "uno de los primeros intentos explícitos a nivel mundial de prescribir una norma de visibilidad cuantificable", dijo Dhruv Garg, socio fundador de la empresa de investigación de políticas públicas Indian Governance and PolicyProject.
Si se aplican, las normas exigirán que las plataformas de IA de la India incorporen sistemas de etiquetado automatizados para identificar y marcar los contenidos generados por IA en el momento de su creación, añadió.
Con información de Reuters
Cerrar sesión