Malezja jako drugie państwo świata zablokowało dostęp do chatbota Grok

Malezja, jako drugie po Indonezji państwo świata, zablokowała dostęp do chatbota Grok – firmy xAI Elona Muska – z powodu tworzenia przez ten program pornograficznych deepfake’ów z wykorzystaniem wizerunków kobiet i dzieci – poinformował w poniedziałek portal BBC.

Malezyjski organ regulacyjny, Komisja Łączności i Multimediów, poinformował w niedzielę, że stwierdził „wielokrotne niewłaściwe wykorzystanie” Groka do generowania szkodliwych treści, w związku z czym na początku roku wysłała do xAI prośbę o interwencję. Firma w swojej odpowiedzi X nie odniosła się jednak do wskazanego zagrożenia – uznała Komisja i poinformowała, że Grok będzie zablokowany w kraju do czasu wdrożenia skutecznych zabezpieczeń. Zaapelowała przy tym do internautów o zgłaszanie szkodliwych treści w internecie.

Indonezja jako pierwszy kraj świata zablokowała w sobotę dostęp do Groka.

„Rząd postrzega praktykę (tworzenia) nielegalnych deepfake’ów o charakterze seksualnym jako poważne naruszenie praw człowieka, godności i bezpieczeństwa obywateli w przestrzeni cyfrowej” – przekazała minister komunikacji i cyfryzacji, Meutya Hafid, w komunikacie.

Deepfake to zdjęcie, materiał dźwiękowy lub wideo stworzony przez sztuczną inteligencję, na którym wizerunek prawdziwej osoby został cyfrowo zmodyfikowany lub umieszczony w nowym, fałszywym kontekście.

Indonezja słynie z surowego prawa dotyczącego cenzury w internecie; przepisy te bezwzględnie zakazują m.in. rozpowszechniania materiałów uznawanych za obsceniczne. Działania władz kraju wpisują się w szerszy trend, w ramach którego regulatorzy w krajach Europy i Azji wszczynają dochodzenia w sprawie seksualizowanych treści w aplikacjach AI. Malezja i Indonezja liczą łącznie ponad 315 milionów mieszkańców.

Użycie Groka do generowania obrazów o charakterze seksualnym spotkało się z potępieniem polityków na całym świecie, w tym premiera Wielkiej Brytanii Keira Starmera, który określił takie działania jako „haniebne” i „obrzydliwe”. Jak podała BBC, oczekuje się, że brytyjski regulator medialny Ofcom wkrótce podejmie decyzję co do dalszych kroków w sprawie Groka.

Elon Musk powiedział wcześniej, że krytycy jego platformy szukają „jakiegokolwiek pretekstu do wprowadzania cenzury”.

PAP