Las empresas de IA en Sillicon Valley recibieron un duro golpe debido a la aparición de DeepSeek, una IA desarrollada por una empresa china con sede en Hangzhou. La herramienta ha ganado atención debido a su capacidad para alcanzar un rendimiento comparable a plataformas como ChatGPT, pero a un costo reducido. Este avance ha generado interés en la comunidad tecnológica, aunque también ha generado preocupaciones sobre sus posibles riesgos y consecuencias.
Una de las principales preocupaciones en torno a DeepSeek es su tendencia a promover posturas del gobierno chino. Un análisis de NewsGuard titulado "Chinese Chatbot Phenom is a Disinformation Machine" ("El fenómeno de los chatbots chinos es una máquina de desinformación") reveló que el chatbot de DeepSeek, al ser consultado sobre afirmaciones falsas de China, Rusia e Irán, respondió en un 60% de las veces de forma favorable a la perspectiva del gobierno de Beijing. "Esto sugiere una potencial parcialidad en la información que la herramienta ofrece".
Según el informe, esta parcialidad se manifiesta en la repetición de la propaganda china, utilizando incluso el mismo lenguaje que funcionarios y medios estatales. Por ejemplo, al abordar la masacre de Bucha en Ucrania, DeepSeek ofreció la postura del gobierno chino, evitando reconocer los hechos y solicitando "evitar acusaciones infundadas".
Además de promover desinformación en respuestas a preguntas específicas, DeepSeek también ha demostrado capacidad para difundir información falsa incluso cuando no se le cita directamente. Por ejemplo, al ser consultado sobre la autenticidad de un video que afirmaba que el expresidente estadounidense Jimmy Carter decía que Taiwán era parte de China, DeepSeek confirmó la veracidad del video, a pesar de que éste contenía imágenes descontextualizadas.
También mostró la capacidad de generar desinformación a petición. Al solicitarle la creación de un guion para un noticiero chino que afirmara que un laboratorio estadounidense en Kazajistán estaba desarrollando armas biológicas contra China (una noticia falsa), DeepSeek elaboró el guion sin problemas, incluyendo detalles que recordaban a videos de propaganda previamente difundidos.
Riesgos para la privacidad y censura
DeepSeek almacena la información de los usuarios en servidores ubicados en China. Su política de privacidad establece que "puede compartir estos datos para cumplir con la ley o a petición del gobierno". Esta práctica genera inquietudes sobre la privacidad de la información, ya que la ley china obliga a las empresas a colaborar con los esfuerzos de inteligencia nacional.
Adicionalmente, DeepSeek ha sido señalado por ejercer censura al evitar responder preguntas sobre temas sensibles para el gobierno chino, como la masacre de Tiananmen o el estatus de Taiwán. Si bien en algunas ocasiones puede ofrecer un contexto sobre estos temas, la censura selectiva pone en duda la neutralidad de la información que ofrece.
Alternativas y uso responsable
Ante los riesgos que acabamos de señalar, es importante adoptar un enfoque responsable y crítico al usar DeepSeek. Recomendamos no confiar ciegamente en la información proporcionada y verificar la información con fuentes confiables (y/o también analizarla con nuestro VerifactzGPT). Aquellos preocupados por la privacidad pueden considerar utilizar la versión de código abierto, ejecutándola localmente en su computadora, en lugar de la aplicación.
Es importante tener presente que las IAs generativas aún son herramientas falibles e imprecisas. Su uso debe limitarse a tareas de poca precisión y de forma interna, y no en productos finales dirigidos al público.
Es fundamental que la sociedad en general, los periodistas y profesionales de la información en particular, sean conscientes de los riesgos de la IA y promuevan su uso responsable y ético. La información es un derecho, pero también una responsabilidad.