ജക്കാർത്ത: ഇലോൺ മസ്കിന്റെ ഉടമസ്ഥതയിലുള്ള എക്സ് പ്ലാറ്റ്ഫോമിലെ എഐ ചാറ്റ്ബോട്ടായ 'ഗ്രോക്ക്' ഇന്തോനേഷ്യയിൽ താൽക്കാലികമായി നിരോധിച്ചു (Indonesia Blocks Grok AI). എഐ ഉപയോഗിച്ച് അശ്ലീല ചിത്രങ്ങളും സ്ത്രീകളുടെയും കുട്ടികളുടെയും വ്യാജ നഗ്നചിത്രങ്ങളും സൃഷ്ടിക്കാൻ ഈ ടൂൾ അനുവദിക്കുന്നു എന്ന കണ്ടെത്തലിനെത്തുടർന്നാണ് നടപടി. ഗ്രോക്കിനെതിരെ നിരോധനം ഏർപ്പെടുത്തുന്ന ലോകത്തിലെ ആദ്യ രാജ്യമായി ഇന്തോനേഷ്യ മാറി.
വ്യക്തികളുടെ സമ്മതമില്ലാതെ അവരുടെ ചിത്രങ്ങൾ മാറ്റം വരുത്തി ലൈംഗികച്ചുവയുള്ള ഉള്ളടക്കങ്ങൾ നിർമ്മിക്കുന്നത് മനുഷ്യാവകാശങ്ങളുടെയും പൗരന്മാരുടെ അന്തസ്സിന്റെയും ലംഘനമാണെന്ന് ഇന്തോനേഷ്യൻ കമ്മ്യൂണിക്കേഷൻസ് ആൻഡ് ഡിജിറ്റൽ മന്ത്രി മെയുത്യ ഹാഫിദ് പറഞ്ഞു. സാധാരണ ഫോട്ടോകൾ നൽകി വസ്ത്രങ്ങൾ നീക്കം ചെയ്ത നിലയിലുള്ള ചിത്രങ്ങൾ നിർമ്മിക്കാൻ ഗ്രോക്ക് അനുവദിക്കുന്നുവെന്ന് നേരത്തെ തന്നെ പരാതികൾ ഉയർന്നിരുന്നു. ഇന്തോനേഷ്യയിലെ കർശനമായ ഇന്റർനെറ്റ് നിയമങ്ങൾ പ്രകാരം അശ്ലീല ഉള്ളടക്കങ്ങൾ പ്രചരിപ്പിക്കുന്നത് കുറ്റകരമാണ്.
ഗ്രോക്ക് ഉപയോഗിച്ച് നിയമവിരുദ്ധമായ കാര്യങ്ങൾ ചെയ്യുന്നവർക്ക് മറ്റ് പ്ലാറ്റ്ഫോമുകളിൽ ഇത്തരം ചിത്രങ്ങൾ അപ്ലോഡ് ചെയ്യുന്നവർക്ക് ലഭിക്കുന്ന അതേ ശിക്ഷ തന്നെ ലഭിക്കുമെന്ന് ഇലോൺ മസ്ക് പ്രതികരിച്ചു. ഇതിനിടെ, ഈ സാങ്കേതിക പിഴവുകൾ പരിഹരിക്കാൻ ശ്രമിക്കുകയാണെന്നും നിലവിൽ പണം നൽകി ഉപയോഗിക്കുന്നവർക്ക് (Paid Subscribers) മാത്രമായി ഇമേജ് എഡിറ്റിംഗ് നിയന്ത്രിച്ചിട്ടുണ്ടെന്നും എക്സ് അറിയിച്ചു. ഇന്ത്യ ഉൾപ്പെടെയുള്ള മറ്റ് രാജ്യങ്ങളും ഗ്രോക്കിന്റെ ദുരുപയോഗത്തിനെതിരെ അന്വേഷണം ആരംഭിച്ചിട്ടുണ്ട്.
Indonesia has become the first country to temporarily block Elon Musk's Grok AI chatbot due to concerns over AI-generated pornographic content and non-consensual deepfakes. Communications Minister Meutya Hafid stated that the tool poses a serious threat to human rights and digital security after reports emerged of it being used to create explicit images of women and minors. While Musk warned of legal consequences for misuse, the Indonesian government has summoned X officials to address the lack of adequate safeguards on the platform.