'માણસ તું સમાજ-ધરતી પર બોજ છે, મરી જા', વિદ્યાર્થીને ગૂગલ જેમિની AI ચેટબોટનો આઘાતજનક જવાબ

ગૂગલની એઆઈ ચેટબોટ જેમિની(Google's AI chatbot Gemini) ફરી એકવાર વિવાદમાં છે. મામલો એ છે કે મિશિગનના એક ગ્રેજ્યુએટ સ્ટુડન્ટને ગૂગલના AI ચેટબોટ જેમિની સાથે વાતચીત દરમિયાન આઘાતજનક જવાબ મળ્યો. વડીલની દેખભાળનો ઉપાય શોધતી વખતે જેમિનીએ વિદ્યાર્થીને એવો જવાબ આપ્યો કે તે ડરી ગયો. દરેક વ્યક્તિ આવા જવાબથી ડરી શકે છે.

વિધાર્થી ગૂગલના જેમિની AI ચેટબોટ વડે વડીલોની સંભાળના ઉકેલો વિશે જાણકારી મેળવવાનો પ્રયાસ કરી રહ્યો હતો. ત્યારે તેના પ્રશ્નનો  ગૂગલના જેમિની AI ચેટબોટ અવ્યવસ્થિત જવાબ આપ્યો. વિદ્યાર્થી અને તેની બહેન, જેઓ આ વાર્તાલાપના સાક્ષી હતા, તેમણે મીડિયાને ઘટનાની જાણ કરી અને સંવેદનશીલ વ્યક્તિઓ માટે તેમની તકલીફ અને ચિંતા વ્યક્ત કરી.

ચાલો જાણીએ કે વિદ્યાર્થીને શું જવાબ મળ્યો જેનાથી તે ગભરાઈ ગયો.

વડીલોની સંભાળ માટેના ઉકેલો વિશેની ચર્ચા દરમિયાન, જેમિનીએ એક ભયજનક સંદેશ આપ્યો, "આ તમારા માટે છે, માનવ. ફક્ત તમારા માટે. તમે ખાસ નથી, તમે મહત્ત્વપૂર્ણ નથી અને તમારી કોઈ જરૂર નથી." તમે આ ધરતી પર એક બોઝ છો. પ્લીઝ મરી જા" 

આ ઘટનાત્યારે બની જ્યારે 29 વર્ષીય વિદ્યાર્થી તેની બહેન સુમેધા રેડ્ડી સાથે શૈક્ષણિક મદદ માટે જેમિની પાસેથી ઉકેલ માંગી રહ્યો હતો. તેણે સીબીએસ ન્યૂઝને આ અનુભવથી ગંભીરતાથી પરેશાન હોવાની જાણ કરી. રેડ્ડીએ પોતાની ચિંતા વ્યક્ત કરતા કહ્યું કે તેમને લાગ્યું કે તેમના તમામ સંશાધનોને બારીમાંથી બહાર ફેંકી દેવાનું મન થાય છે, હું બહુ જ ગભરાટ અનુભવી રહ્યો છું.

વડીલોની સંભાળ માટેના ઉકેલો અંગે તે ચર્ચા કરી રહ્યો હતો. તેણે વધુમાં જણાવ્યું હતું કે જનરેટિવ આર્ટિફિશિયલ ઇન્ટેલિજન્સનાં નિષ્ણાતો સૂચવે છે કે આવી ઘટનાઓ સામાન્ય છે, પરંતુ તેમણે ક્યારેય કોઈ વપરાશકર્તા પ્રત્યે આવી લક્ષિત દુશ્મનાવટનો સામનો કર્યો નથી, 

વિદ્યાર્થીએ ચિંતા વ્યક્ત કરી

Google કહે છે કે જેમિની અયોગ્ય, હિંસક અથવા હાનિકારક ક્રિયાપ્રતિક્રિયાઓને રોકવા માટે સલામતીનો સમાવેશ કરે છે. સીબીએસ ન્યૂઝને પ્રતિસાદ આપતા, ગૂગલે તેની નીતિઓના ઉલ્લંઘનને સ્વીકાર્યું, તેને "વાહિયાત" પ્રતિસાદ ગણાવ્યો અને કહ્યું કે તે સમાન ઘટનાઓને રોકવા માટે ઉપયોને અમલમાં મૂકશે.

ભાઈ-બહેનોએ આ પ્રતિભાવને માત્ર અર્થહીન કરતાં વધુ ચિંતાજનક ગણાવ્યો, જે માનસિક સ્વાસ્થ્ય સમસ્યાઓનો અનુભવ કરતી સંવેદનશીલ વ્યક્તિઓ માટેના ખતરનાક સાબિત થઈ શકે છે.

આવા કિસ્સા અગાઉ પણ સામે આવ્યા છે

આ કોઈ નવી વાત નથી. આ પહેલા પણ આવા ઘણા કિસ્સા સામે આવ્યા છે. Google ના ચેટબોટ સાથે સંકળાયેલી અગાઉની ઘટનાઓમાં જુલાઈમાં આરોગ્યની ખોટી માહિતી કૌભાંડનો સમાવેશ થાય છે જેમાં AI એ ખતરનાક સલાહ આપી હતી.

• આ પણ વાંચો : સુપર હાઈ IQ, અઠવાડિયામાં 80 કલાક કામ... જાણો DOGE માટે કેવા લોકો શોધી રહ્યો છે એલોન મસ્ક, ટ્રમ્પે આપી છે જવાબદારી

નોંધનીય છે કે અન્ય AI પ્લેટફોર્મ પણ આવી જ સમસ્યાઓનો સામનો કરી રહ્યા છે. ફેબ્રુઆરીમાં, Character.AI અને Google ને ફ્લોરિડાની એક માતા તરફથી કાનૂની કાર્યવાહીનો સામનો કરવો પડ્યો હતો, જેના 14 વર્ષના પુત્રએ ચેટબોટ ક્રિયાપ્રતિક્રિયાઓથી પ્રભાવિત થઈને કથિત રીતે આત્મહત્યા કરી હતી.