Grok સામે ભારત, અમેરિકા-બ્રિટનમાં કાયદેસરની કાર્યવાહી, મહિલાઓ-બાળકોની અશ્લીલ તસવીરો મુદ્દે દુનિયા લાલઘૂમ

ઈલોન મસ્કની એઆઈ કંપની xAI ચેટબોટ ગ્રોક (Grok) હાલમાં વિવાદમાં છે. ડિસેમ્બર 2025માં થયેલા ગ્રોકના અપડેટ પછી યુઝર્સને લોકોના ફોટા અપલોડ કરીને એમાં મનફાવે એવા ફેરફાર કરવાની સુવિધા અપાઈ રહી છે. આ સુવિધાનો દુરુપયોગ કરીને અનેક યુઝર્સે બાળકો અને મહિલાઓના ફોટા અપલોડ કરીને ‘કપડાં કાઢી નાખો’ કે ‘બિકિની પહેરાવો’ જેવા પ્રોમ્પ્ટ આપીને અશ્લીલ તસવીરો બનાવી રહ્યા છે. આ પૈકી અનેક તસવીરોમાં બાળકોને યૌન સૂચક પોઝમાં દર્શાવાયા છે, તો કેટલીક તસવીરોમાં તો બાળકો અત્યંત વાંધાનજક સ્થિતિમાં દેખાતા હતા. બાળ યૌન શોષણ સામગ્રી (CSAM- child sexual abuse material) ગણાય એવી આ તસવીરો X પર વાઇરલ થઈ જતા હોબાળો મચી ગયો છે. વળી, Xના માલિક મસ્કે આ ટ્રેન્ડ અંગે ભદ્દી મજાક કરતા ભારત, મલેશિયા અને યુરોપના દેશો પણ તેના પર ગુસ્સે છે. દુનિયાભરની નિયમનકારી સંસ્થાઓએ X અને xAI સામે તપાસ શરૂ કરી છે.

ભારત સરકારે 7 જાન્યુઆરી સુધીમાં જવાબ માંગતી નોટિસ ફટકારી  

ભારત સરકારે પણ X ને તેના Grok AI ચેટબોટ દ્વારા જનરેટ થતી અશ્લીલ સામગ્રી પર અંકુશ માટે લેવામાં આવેલા પગલાંનો વિગતવાર એક્શન ટેકન રિપોર્ટ 48 કલાકમાં સબમિટ કરવાનો આદેશ આપ્યો છે. ઇલેક્ટ્રોનિક્સ અને માહિતી ટેકનોલોજી મંત્રાલય દ્વારા 2 જાન્યુઆરીએ મોકલેલા પત્રમાં ચેતવણી અપાઈ હતી કે આ બાબતમાં નિષ્ફળતા ભારતીય કાયદા હેઠળ પ્લેટફોર્મની કાનૂની રક્ષણ ગુમાવવા તેમજ આકરા કાયદાકીય પરિણામો ભોગવવા સુધી જઈ શકે છે. કર્મચારીઓની રજા હોવાના કારણે X ની તરફથી વધારાના સમયની વિનંતી કરાઈ હતી. તેથી હવે પ્લેટફોર્મ પાસે આ આદેશનો જવાબ આપવા માટે 7 જાન્યુઆરી સાંજે 5 વાગ્યા સુધીનો સમય છે. જો યોગ્ય જવાબ નહીં મળે તો ભારતમાં પ્લેટફોર્મની મુશ્કેલીઓ વધી શકે છે. શક્ય છે કે X પર પ્રતિબંધ પણ મુકાઈ શકે છે.

યુરોપિયન યુનિયનનું કડક વલણ: અબજો ડૉલરનો દંડની શક્યતા  

યુરોપિયન કમિશનના પ્રવક્તાએ આ મુદ્દાને ‘ઘૃણાસ્પદ’ અને ‘ગેરકાયદે’ ગણાવ્યો છે. તેમણે સ્પષ્ટ કર્યું છે કે બાળકો સંબંધિત અશ્લીલ અને જાતીય સામગ્રીને યુરોપમાં કોઈ સ્થાન નથી. યુરોપિયન યુનિયનના 'ડિજિટલ સર્વિસ એક્ટ' (DSA) હેઠળ સોશિયલ મીડિયા કંપનીઓએ ઓનલાઈન જોખમી સામગ્રી રોકવી ફરજિયાત છે. જો તપાસમાં સાબિત થશે કે Grok AI એ સુરક્ષા નિયમોનું ઉલ્લંઘન કર્યું છે, તો મસ્કની કંપની પર તેની વૈશ્વિક આવકના 6% જેટલો તોતિંગ દંડ ફટકારાઈ શકે છે.

મલેશિયા, બ્રાઝિલ અને યુકેએ પણ ઉગ્ર વિરોધ નોંધાવ્યો

મલેશિયાના ‘મલેશિયન કોમ્યુનિકેશન્સ એન્ડ મલ્ટિમીડિયા કમિશન’ (MCMC) એ આ મુદ્દે X ના પ્રતિનિધિઓ પાસે સ્પષ્ટતા માંગી છે. આ સાથે જ તેમણે તમામ ઓનલાઇન અને સોશિયલ મીડિયા પ્લેટફોર્મને દેશના કાયદા અને ઓનલાઇન સલામતી ધોરણો પાળવાની સૂચના આપી છે. બ્રિટિશ મીડિયા નિયામક ઓફકોમે X અને xAI પાસે યુકેના યુઝર્સની સુરક્ષા માટે લીધેલા પગલાં વિશે માહિતી માંગી છે. બ્રાઝિલના એક સંસદ સભ્યે તપાસ પૂરી ન થાય ત્યાં સુધી ગ્રોકના ઉપયોગને સ્થગિત કરવાની માંગ કરી છે.

મસ્કે કરી વિરોધમાં ચાલતા સોશિયલ મીડિયા ટ્રેન્ડની મજાક 

ઇલોન મસ્કએ પહેલાં તો આ ટ્રેન્ડને જરાય ગંભીરતાથી નહોતો લીધો. તેમણે X પર Grok દ્વારા બનાવાયેલી એક તસવીર શેર કરી હતી, જેમાં એક ટોસ્ટરને બિકિની પહેરાવાયેલી હતી. એના પર મસ્કએ હસતું-રડતું ઇમોજી મૂકીને લખ્યું હતું કે, ‘આ જોતા હસવું આવી જાય છે.’ જો કે, ત્યાર પછી વિરોધનો વંટોળ ઊઠતાં તેમણે ફેરવી તોળ્યું અને કહ્યું કે, ગ્રોકનો ગેરકાયદે ઉપયોગ કરનારાને સજા થશે. X ની સેફ્ટી ટીમે પણ એવું નિવેદન કર્યું હતું કે, તેઓ પ્લેટફોર્મ પરથી ગેરકાયદે સામગ્રી, ખાસ કરીને CSAM દૂર કરી રહ્યા છે. એટલું જ નહીં, આ પ્રકારના એકાઉન્ટ્સને પણ કાયમી ધોરણે સસ્પેન્ડ કરી રહ્યા છે. 

નિષ્ણાતો કહે છે કે મસ્ક આવા બાળ શોષણના ગંભીર મુદ્દે પણ ખરાબ મજાક કરી રહ્યા છે, જે તેમની કંપનીની સેફ્ટી પ્રત્યેની બેદરકારી દર્શાવે છે.

Grok AI ની સુરક્ષાના ધજાગરા ઊડ્યા

મસ્કનું AI મોડલ 'Grok' અન્ય AI મોડલ્સ કરતા વધુ ‘ખુલ્લું’ અને ‘બળવાખોર’ હોવાનો દાવો કરાય છે, પરંતુ આ જ વિશેષતા હવે તેના માટે મુસીબત બની ગઈ છે. સુરક્ષા કવચના અભાવે યુઝર્સ આ AI પાસે બાળકોના અશ્લીલ ફોટા અને અન્ય વાંધાજનક સામગ્રી બનાવડાવી રહ્યા છે, જે સમાજ અને ખાસ કરીને બાળકોની સુરક્ષા માટે મોટું જોખમ છે. ગ્રોક દ્વારા જનરેટ થયેલી 2%થી વધુ છબીઓ 18 વર્ષથી નીચેની ઉંમરના બાળકોની છે.

અમેરિકામાં કાનૂની ચર્ચા અને સંભવિત કાર્યવાહી

અમેરિકામાં ‘નેશનલ સેન્ટર ઓન સેક્સ્યુઅલ એક્સપ્લોઇટેશન’ (NCOSE) નામની સંસ્થાએ ફેડરલ ટ્રેડ કમિશન (FTC) અને ન્યાય વિભાગ (DOJ) ને આ બાબતની તપાસ કરવા હાકલ કરી છે. ન્યાય વિભાગે સ્પષ્ટ કર્યું છે કે એઆઈ દ્વારા જનરેટ કરાયેલી બાળ યૌન શોષણ સામગ્રી ગેરકાયદે છે અને તેને ખૂબ જ ગંભીરતાથી લેવામાં આવશે.