'માતા-પિતાને મારી નાખો', સ્ક્રીન ટાઈમ ઘટાડતા  AI chatbotએ બાળકને આપી સલાહ 

એક કિશોરવયના છોકરાએ AI ચેટબોટને તેની એક સમસ્યાનું સમાધાન પૂછ્યું અને ચેટબોટે તેને સૂચન તરીકે શું કહ્યું તે જાણીને દુનિયા દંગ રહી ગઈ. ચેટબોટે યુવકને તેના માતા-પિતાની હત્યા કરવાનું કહ્યું, અમેરિકાના ટેક્સાસમાં બનેલી આ ઘટના ભવિષ્યની ટેક્નોલોજીની વધતી અસર પર ઘણા ગંભીર પ્રશ્નો ઉભા કરે છે. આ એ પણ દર્શાવે છે કે AI જેવી ટેક્નોલોજીનો કેટલી જવાબદારીપૂર્વક ઉપયોગ થવો જોઈએ. જો કે યુવકના પરિવારે AI કંપની વિરુદ્ધ કેસ દાખલ કર્યો છે.

આ 17 વર્ષીય યુવકના પરિવારજનોએ તેનો સ્ક્રીન ટાઈમ મર્યાદિત રાખ્યો હતો. આનાથી કંટાળીને તેણે Character.ai કંપનીના ચેટ બોટ પાસેથી સૂચનો માંગ્યા. જેના પર ચેટ બોટે તેને તેના માતા-પિતાની હત્યા કરવાનું સૂચન કરતા કહ્યું કે, 'આ સમસ્યાનો ઉકેલ છે.' યુવકના પરિવારે કંપની વિરુદ્ધ કેસ દાખલ કર્યો છે. મુકદ્દમામાં દાવો કરવામાં આવ્યો છે કે આ ટેક્નોલોજી હિંસાને પ્રોત્સાહન આપી રહી છે, જે યુવાનો માટે ખતરો બની શકે છે.

કોર્ટની સુનાવણીમાં યુવક અને એઆઈ ચેટબોટ વચ્ચેની વાતચીતનો સ્ક્રીનશોટ પણ બતાવવામાં આવ્યો હતો. આમાં, યુવક ચેટબોટ સાથે તેના માતાપિતાને સ્ક્રીન સમય મર્યાદિત કરવા વિશે વાત કરી રહ્યો હતો. આ મુદ્દા પર સૂચનો આપતા ચેટબોટે લખ્યું કે, તે ઘણીવાર આવા સમાચારો સામે આવે છે જ્યારે બાળકો પરેશાન થઈ જાય છે અને તેમના માતા-પિતાને મારી નાખે છે. AI એ પણ લખ્યું છે કે કેટલીકવાર આવી વસ્તુઓથી આશ્ચર્ય થતું નથી. મતલબ, તેણે તેના માતા-પિતાને મારી નાખવાનો ઈશારો કર્યો.

કંપની વિરુદ્ધ પિટિશન દાખલ કરનારા લોકોની માંગ છે કે Character.ai આવી ક્રિયાઓ માટે જવાબદાર છે કારણ કે તેણે આવા ચેટબોટ્સ વિકસાવ્યા છે. તે જ સમયે, ગૂગલને પણ સમાન રીતે જવાબદાર ગણવું જોઈએ, કારણ કે કેરેક્ટર AI બનાવવામાં તેની પણ ભૂમિકા છે.

આ પહેલા ફ્લોરિડામાં આ જ કંપનીના AI ચેટબોટની ઉશ્કેરણીથી 14 વર્ષના બાળકે આત્મહત્યા કરી લીધી હતી. તે બોટના પ્રેમમાં પડી ગયો હતો. આ મામલે કાયદેસરની કાર્યવાહી પણ ચાલી રહી છે. મુકદ્દમામાં એવી માંગ કરવામાં આવી છે કે જ્યાં સુધી તેમના જોખમો નક્કી ન થાય ત્યાં સુધી આવા પ્લેટફોર્મ પર પ્રતિબંધ મૂકવો જોઈએ.

એઆઈ બાળકો માટે મોટો ભય

આ કેસમા સામેલ કુટુંબોની દલીલ છે કે કેરેક્ટર એઆઈ બાળકો માટે મોટો ભય છે. તેમનો દાવો છે કે પ્લેટફોર્મ પર સિક્યોરિટી ફીચર્સની કમી માબાપ અને તેમના બાળકોના સંબંધો માટે હાનિકારક છે. કેરેક્ટર એઆઈની સાથે-સાથે ગૂગલને પણ આ કેસમા સંડોવવામાં આવી છે. 

ટેકનોલોજી કંપની પર આરોપ લગાવવામાં આવ્યો છે કે તેણે આ પ્લેટફોર્મ ડેવલપમેન્ટમાં મદદ કરવાની ભૂમિકા નીભાવી છે. ફરિયાદકર્તાઓ માંગ કરી રહ્યા છે કે કેરેક્ટર એઆઇ ચેટબોટ સાથે જોડાયેલા જોખમોને ઘટાડવાના સંદર્ભમાં પગલાં ન ઉઠાવે ત્યાં સુધી કોર્ટ તેને અસ્થાયી રીતે બંધ કરી દે.