Other BriefingsComprender las nuevas regulaciones de China sobre IA generativa
China está tratando de regular la IA generativa junto con los esfuerzos políticos para fomentar un entorno propicio para la innovación, la ciencia y la tecnología y las aplicaciones de investigación y desarrollo lideradas por la IA en todas las industrias. El objetivo detrás del borrador recientemente publicado de Medidas para Servicios de Inteligencia Artificial Generativa es alinear los resultados de la industria con los valores socialistas centrales de China, la moralidad social y el orden público. En otras palabras, equilibrar la innovación del sector de la IA con consideraciones éticas.
Traducción: Bruno Hernandez
En abril, la Administración del Ciberespacio de China publicó el borrador de “Medidas para Servicios de Inteligencia Artificial Generativa” 《生成式人工智能服务管理办法(征求意见稿)》, en adelante, “borrador de medidas”. Diseñadas para administrar productos de inteligencia artificial generativa (IA) como ChatGPT, las medidas establecerán las reglas básicas que deben seguir los servicios de IA generativa, incluido el tipo de contenido que estos productos pueden generar. El borrador de las medidas también destaca cuestiones que preocupan especialmente al gobierno chino con respecto al uso de la IA generativa, como la moderación de contenido, la distorsión y el abuso de la información, el sesgo algorítmico y el prejuicio, y la transparencia.
¿Qué es la IA generativa?
La IA generativa utiliza técnicas de aprendizaje profundo y grandes conjuntos de datos para crear contenido similar como imágenes, texto y música. ChatGPT de OpenAI, un modelo de lenguaje capaz de generar respuestas, ha ganado una inmensa popularidad con alrededor de 100 millones de usuarios en solo dos meses.
Este éxito ha motivado a las principales compañías de Internet a acelerar sus propias plataformas de servicios de IA generativa. Google lanzó el chatbot “Bard”, mientras que Microsoft introdujo Azure para la IA conversacional. Las empresas tecnológicas chinas también están invirtiendo fuertemente en el desarrollo de sus modelos generativos de IA. Baidu lanzó “ERNIE Bot”, Alibaba lanzó “Tongyi Qianwen” y Tencent, 360, Huawei y otros gigantes han anunciado su entrada en los servicios generativos de IA. El rápido desarrollo ha llevado a los responsables políticos de China a considerar regulaciones para este sector.
Comprender las regulaciones generativas de IA de China
En los últimos años, China se ha convertido en un líder en las regulaciones de IA, implementando diversas iniciativas para fomentar y supervisar el crecimiento del sector de IA. Los ejemplos incluyen Made in China 2025, el Esquema de acción para promover el desarrollo de Big Data (2015) y el Plan de Desarrollo de Inteligencia Artificial de Próxima Generación (2017).
China también ha sido proactiva en la promulgación de leyes que rigen la ética de las empresas y algoritmos de IA. Como parte de sus esfuerzos más amplios para regular la industria de la tecnología, es concebible que el gobierno chino pueda imponer regulaciones a los modelos de lenguaje basados en IA, como ChatGPT.
Volviendo al borrador de las medidas, es posible que la regulación pueda aprobarse y entrar en vigencia a finales de este año y funcione en conjunto con los marcos regulatorios existentes de China. Estos incluyen leyes y regulaciones como la Ley de Ciberseguridad, la Ley de Seguridad de Datos, la Ley de Protección de Información Personal (PIPL), las Disposiciones de Síntesis Profunda y las Disposiciones Administrativas sobre Algoritmos de Recomendación en Servicios de Información basados en Internet. Juntos, proporcionan orientación de desarrollo para la industria de la IA.
En general, el borrador de las medidas busca reducir los riesgos y el uso indebido de las tecnologías de IA al tiempo que fomenta la innovación de IA que está en línea con los valores socialistas centrales de China, la moralidad social y el orden público. Al integrar estas regulaciones, China tiene como objetivo lograr un equilibrio entre fomentar los avances de IA y garantizar prácticas de IA responsables y éticas dentro del país.
Además, y a pesar de los requisitos introducidos por el proyecto de medidas, el texto establece que el gobierno fomenta el desarrollo autóctono y la cooperación internacional en relación con la tecnología generativa de IA y alienta a las empresas a adoptar “software, herramientas, computación y recursos de datos seguros y confiables” con ese fin.
Ámbito de aplicación
El borrador de las medidas define la IA generativa como tecnologías que generan texto, imágenes, sonidos, videos, códigos y otros contenidos basados en algoritmos, modelos y reglas. Regulan específicamente la categoría más amplia de tecnologías generativas de IA, en oposición a las tecnologías de “síntesis profunda”. Si se promulga, el proyecto de medidas regulará las actividades de los proveedores de servicios que ofrecen sus productos a los usuarios en China continental, independientemente de si el servicio tiene su sede local o en el extranjero.
Gobernanza de los proveedores
El borrador de las medidas define un “proveedor de IA generativa” como organizaciones e individuos que utilizan productos de IA generativa para ofrecer servicios, como chat y generación de texto, imágenes y sonido. Esto incluye a aquellos que facilitan la generación de contenido a través de interfaces y plataformas. El proyecto de medidas no distingue entre proveedores de tecnología de fondo y proveedores de servicios a nivel de aplicación. Ambos son responsables del contenido producido por los productos de IA generativa y deben adherirse al PIPL de China para salvaguardar la información personal.
El borrador de las medidas pretende regular las tecnologías generativas de IA imponiendo obligaciones directas a los “Proveedores”. Los proveedores son responsables de garantizar la legitimidad de los datos utilizados para entrenar productos de IA generativa y el contenido generado. Deben presentar informes de evaluación de seguridad a la autoridad pertinente y seguir los procedimientos de presentación, modificación y cancelación de algoritmos antes de ofrecer servicios al público utilizando productos de IA generativa. El proyecto de medidas establece requisitos claros para los proveedores de servicios, haciendo hincapié en su responsabilidad por el contenido generado para garantizar su veracidad y exactitud.
Requisitos básicos para la IA generativa en China
El proyecto de medidas para los servicios de inteligencia artificial generativa refuerza los requisitos legales existentes e impone obligaciones adicionales a los proveedores de productos y servicios de IA generativa. Estos requisitos incluyen:
- Aplicar medidas para prevenir la discriminación basada en factores como la raza, el origen étnico, la religión, la nacionalidad, la geografía, el sexo, la edad, la ocupación, etc.
- Respetar los derechos de propiedad intelectual de terceros y abstenerse de utilizar algoritmos, datos y plataformas para la competencia desleal.
- Tomar medidas para asegurar la autenticidad de la información generada y evitar la generación de desinformación.
- Salvaguardar la información de entrada y el historial del usuario, prohibir la retención ilegal de la información de entrada que revela la identidad del usuario, crear retratos de usuario basados en dicha información y compartir la información de entrada del usuario con terceros.
- Establecer claramente el alcance de los usuarios, las ocasiones y el uso de sus servicios, e implementar medidas para prevenir la adicción.
- Proporcionar la información necesaria a la Administración de Ciberseguridad de China (CAC) a pedido, incluidas las fuentes del conjunto de datos, el tamaño, la naturaleza, la calidad, las reglas de etiquetado, los detalles del conjunto de datos etiquetados, los algoritmos básicos y los sistemas técnicos.
- Suspender o cesar los servicios si se utilizan de manera que violen la ética comercial o social, como participar en exageraciones en línea, publicaciones y comentarios maliciosos, creación de spam, escribir software malicioso o participar en marketing comercial inadecuado.
- Exigir a los usuarios que proporcionen sus identidades reales e información relacionada, absteniéndose de generar información falsa.
Derechos de los usuarios
Cuando la información personal está involucrada en los servicios prestados, los proveedores de IA generativa están legalmente obligados a cumplir con las responsabilidades de un procesador de información personal y garantizar la protección de la información personal. Deben establecer sistemas de informes para que los usuarios manejen solicitudes individuales relacionadas con la modificación, eliminación y bloqueo de información personal. Si el contenido generado infringe los derechos de imagen, los derechos de reputación, la privacidad personal o los secretos comerciales de otros, los proveedores deben dejar de generar dicha información.
Responsabilidad legal
Las violaciones de las Medidas estarán sujetas a sanciones de conformidad con las leyes pertinentes. Si no hay una disposición específica para la sanción, la CAC y otros reguladores aplicables pueden emitir advertencias, exigir correcciones dentro de un plazo específico, ordenar la suspensión o terminación de los servicios e imponer multas que oscilan entre 10.000 y 100.000 RMB (1.470 a 14.700 dólares EE.UU.). En los casos en que se genere contenido inapropiado, los proveedores deben actualizar su tecnología en un plazo de tres meses para evitar que se repita. Estas medidas tienen como objetivo garantizar el cumplimiento, proteger la información personal y abordar los problemas relacionados con el contenido con prontitud.
La opinión general de China sobre las tecnologías de IA
China ha estado promoviendo activamente el desarrollo de la IA a través de diversas iniciativas políticas. En 2017, el Consejo de Estado emitió el “Plan de Desarrollo de Inteligencia Artificial de Próxima Generación (2017)“, que describe los objetivos estratégicos para el desarrollo de la IA.
En 2023, el Ministerio de Ciencia y Tecnología lanzó un despliegue especial de “IA para la ciencia” para acelerar la innovación y promover la aplicación de alto nivel de la IA en industrias clave. La IA fue identificada como una industria clave en el controvertido plan industrial Made in China 2025 de China, en el que se afirmó que el objetivo de China era convertirse en un líder mundial en el campo para 2030.Además, el gobierno fomenta el desarrollo de la tecnología generativa de IA, tanto a nivel nacional como a través de la cooperación internacional. Se alienta a las empresas a adoptar software, herramientas, recursos informáticos y recursos de datos seguros y confiables para respaldar sus esfuerzos en este campo. Estas medidas destacan el compromiso del gobierno de fomentar un ecosistema de IA seguro y confiable al tiempo que promueve la innovación y la colaboración en tecnología de IA generativa.
Los gobiernos a nivel local también dedican esfuerzos para impulsar el desarrollo de la IA. Las principales ciudades, como Shenzhen y Shanghai, han promulgado sus propias regulaciones. Un punto destacado del Reglamento de IA de Shanghai es que estipula un cierto grado de tolerancia para infracciones menores para fomentar la exploración de fronteras científicas e inspirar la innovación.
China ha logrado avances significativos y ha obtenido una ventaja competitiva en varios aspectos de la industria de la IA. El país ha mostrado fortaleza en términos de documentos académicos, patentes, inversiones transfronterizas y financiamiento global de IA.
Según las previsiones, se proyecta que la inversión en IA de China alcance una cantidad sustancial de US $ 26.7 mil millones para 2026. Se estima que esta inversión representa aproximadamente el 8,9 por ciento de la inversión mundial en IA, posicionando a China como el segundo destino más grande para la inversión en IA en todo el mundo. Estas cifras indican el fuerte compromiso de China y su creciente influencia en el campo de la IA, tanto a nivel nacional como a escala mundial.
Comparación con EE.UU. y la UE
China no es el único país preocupado por el desarrollo de la IA generativa; otros también están acelerando sus propios procesos de formulación de políticas. La Administración Nacional de Telecomunicaciones e Información (NTIA) del Departamento de Comercio de los Estados Unidos ha iniciado una solicitud pública formal de información sobre políticas que deberían dar forma a un ecosistema de responsabilidad de IA. La solicitud, abierta hasta el 10 de junio de 2023, busca comentarios sobre diversos aspectos, incluido el acceso a los datos, la medición de la responsabilidad y los enfoques específicos del sector para la IA en industrias, como el empleo y la atención médica.
En Europa, el gobierno del Reino Unido anunció recientemente su decisión de no establecer un nuevo regulador para la gobernanza de la IA, con el objetivo de evitar regulaciones demasiado restrictivas que podrían obstaculizar la innovación. En cambio, los reguladores existentes tienen la tarea de desarrollar sus propios enfoques para la gobernanza de la IA en función de las necesidades específicas de sus sectores.
En otra nota, Italia prohibió ChatGPT, citando preocupaciones relacionadas con problemas de privacidad, en marzo. Estos ejemplos demuestran los diversos enfoques para abordar la gobernanza de la IA y las diversas preocupaciones y consideraciones que rodean la tecnología.
Perspectivas de negocio en China
La industria de la IA presenta importantes perspectivas de inversión en China y se ha convertido en un foco estratégico para el gobierno. Con un rápido crecimiento y avances, China se está posicionando como líder mundial en tecnología de inteligencia artificial. A pesar de algunas restricciones y desafíos regulatorios, el país sigue comprometido a fomentar un entorno favorable para la inversión extranjera y el talento en el sector de la IA.
La determinación y las políticas de apoyo de China lo han marcado como un destino atractivo para las inversiones en IA. Con un enfoque en la autosuficiencia en tecnología de IA, el compromiso de China de fomentar la innovación y su entorno regulatorio favorable crean un entorno empresarial propicio. El gran tamaño del mercado del país, la creciente base de consumidores y la infraestructura avanzada también ofrecen amplias oportunidades para que las empresas desarrollen y escalen sus productos y servicios de IA.
Para capitalizar plenamente las perspectivas en la industria de IA de China, las empresas deben aprovechar las políticas de apoyo de China para optimizar sus estrategias comerciales.
Al alinearse con los objetivos del gobierno y aprovechar los incentivos disponibles, los inversores pueden desbloquear diversas oportunidades comerciales. Al mismo tiempo, deben mantenerse ágiles para adaptarse al cambiante clima empresarial y político para navegar de manera efectiva por las complejidades del mercado de la IA.
Dezan Shira & Associates
Con décadas de experiencia operando en el continente asiático, los especialistas de Dezan Shira y Asociados se encuentran bien posicionados para ayudar a las compañías de habla hispana a superar los obstáculos encontrados y lograr el éxito empresarial no sólo en China, sino en el resto de la región, a través de nuestro Spanish Desk. Para obtener más información, por favor contáctenos en la siguiente dirección: spanishdesk@dezshira.com
- Previous Article China Releases New Measures to Further Open-Up its Free Trade Zones
- Next Article Liberando el potencial de la economía plateada en China
