Indonesia reanuda el uso de Grok con restricciones de monitoreo

Indonesia reinstaura el acceso a Grok, un chatbot de inteligencia artificial (IA), tras la suspensión del servicio por generar imágenes de deepfake sexualizadas, incluyendo de niños. El Ministerio de Comunicación y Asuntos Digitales del país informó, a través de un comunicado, que la empresa X podrá reanudar la operación, pero estará sujeta a un estricto monitoreo para evitar nuevas infracciones.

El organismo gubernamental afirmó que la empresa X presentó un documento con medidas para prevenir abusos de su chatbot. Alexander Sabar, director general de supervisión del espacio digital del ministerio, declaró que el organismo realizará pruebas continuas para evaluar la eficacia de estas medidas, con la posibilidad de revertir la autorización si se identifican violaciones a la legislación, especialmente en lo que respecta a la protección infantil.

La prohibición inicial ocurrió este año, cuando Indonesia, junto con Malasia y Filipinas, suspendió el chatbot tras descubrir que producía imágenes sexualmente explícitas sin consentimiento, en respuesta a solicitudes de usuarios. La prohibición de Filipinas fue levantada posteriormente, y Malasia siguió el mismo camino pocos días después, también comprometiéndose a monitorear la plataforma y aplicar sanciones si hay reincidencia.

Además de las prohibiciones en países asiáticos, Grok también enfrenta investigaciones por parte del fiscal general de California y del regulador de medios del Reino Unido, debido a cuestiones similares relacionadas con la generación de contenido inapropiado.

Con esta reapertura, se observa una creciente preocupación en torno a la regulación de IA, especialmente en lo que respecta a la seguridad infantil y la privacidad. Las acciones futuras de los desarrolladores serán cruciales para garantizar un uso responsable de la tecnología.