Italia ha bloqueado con efecto inmediato la herramienta de inteligencia artificial ChatGPT, desarrollada por la compañía estadounidense OpenAI, acusándola de no respetar la ley de protección de datos de los consumidores. El garante italiano para la Protección de Datos Personales ha abierto una investigación y ha destacado la falta de información a usuarios y la ausencia de una base jurídica que justifique la recogida y conservación masiva de datos personales. Además, Italia ha criticado la falta de filtros para verificar la edad de los usuarios, lo que expone a los niños a respuestas inadecuadas en función de su edad. En Estados Unidos, el Center for AI and Digital Policy ha presentado una demanda contra OpenAI ante la Comisión de Comercio Federal en la que alega que GPT-4, la tecnología utilizada por ChatGPT, viola la ley de protección de los consumidores y supone un riesgo para la privacidad y la seguridad pública.
La ONU ha expresado su preocupación acerca de los peligros de la Inteligencia Artificial, en particular por su potencial para aumentar la violencia y la desinformación. El portavoz de la Secretaría General de Naciones Unidas, Stéphane Dujarric, ha destacado el riesgo de que las empresas no se responsabilicen de la forma en que se publica la información generada por la IA, y ha señalado que el sector tecnológico suele operar fuera de los controles gubernamentales. La ONU ha organizado reuniones entre los gobiernos, el sector privado y la sociedad civil para intentar garantizar que no se abuse de esta tecnología a la vez que se pueda aprovechar su «inmenso potencial positivo». El secretario general de Naciones Unidas, António Guterres, ha advertido previamente acerca de los riesgos de la IA en términos de privacidad, responsabilidad humana, desigualdad de ingresos y acceso al trabajo.
Es difícil predecir con certeza lo que sucederá con ChatGPT y su bloqueo en Italia. Es posible que OpenAI tome medidas para abordar las preocupaciones de privacidad y seguridad planteadas por las autoridades italianas y la demanda presentada en Estados Unidos. También pueden intentar argumentar en contra de la medida de bloqueo, ya sea a través de apelaciones legales o mediante la adopción de medidas para cumplir con las normas de protección de datos en Italia. En cualquier caso, es probable que el caso tenga implicaciones importantes para la industria de la inteligencia artificial y la regulación de la privacidad de los datos en el futuro.