ગૂગલના ભૂતપૂર્વ CEO એરિક શ્મિટે કહ્યું કે, AI મોડેલ્સ કોઈની હત્યા કરવાનું શીખી શકે છે
છેલ્લું અપડેટ : 15 Oct 2025
ગૂગલના ભૂતપૂર્વ CEO એરિક શ્મિટે ચેતવણી આપી છે કે આર્ટિફિશ્યલ ઈન્ટેલિજન્સ (AI) મોડેલો હેકિંગ માટે સંવેદનશીલ છે. ગયા અઠવાડિયે સિફ્ટેડ સમિટમાં તેમણે સંબોધન આપ્યું હતુ. દરમિયાન 2001થી 2011 સુધી ગૂગલના ચીફ એક્ઝિક્યુટિવ તરીકે સેવા આપનાર શ્મિટને પૂછાયું કે શું AI ન્યક્લિયર વેપન એટલે કે પરમાણુ શસ્ત્રો કરતા પણ વધારે ખતરનાક હોઈ શકે છે? તો જવાબમાં તેમણે AI શું કરી શકે છે તે ખરાબ બાબતો વિશે વાત કરી હતી.
એક સવાલ એવો હતો કે, શું AIમાં પ્રસાર સમસ્યાની શક્યતા હોઈ શકે છે? તો જવાબમાં એરિક શ્મિટે કહ્યું કે ચોક્કસ, વધુમાં જણાવ્યું કે, "એવા પુરાવા છે કે તમે બંધ અથવા ખુલ્લા મોડેલ લઈ શકો છો, અને તમે તેમના guardrails દૂર કરવા માટે તેમને હેક કરી શકો છો. તેથી તેમની તાલીમ દરમિયાન, તેઓ ઘણી વસ્તુઓ શીખી શકે છે. એક ખરાબ ઉદાહરણ એ હશે કે તેઓ કોઈની હત્યા કરવાનું શીખી શકે છે."
AI નું ભવિષ્ય
એપ્રિલમાં, ગૂગલ ડીપમાઇન્ડ દ્વારા પ્રકાશિત એક સંશોધન પત્રમાં ચેતવણી આપવામાં આવી હતી કે આર્ટિફિશિયલ જનરલ ઇન્ટેલિજન્સ (AGI) 2030ની શરૂઆતમાં આવી શકે છે અને "માનવતાને કાયમ માટે નષ્ટ કરી શકે છે". આ અભ્યાસમાં એડવાન્સ્ડ AIના જોખમોને ચાર મુખ્ય શ્રેણીઓમાં વિભાજિત કરવામાં આવ્યા છે: દુરુપયોગ, ખોટી ગોઠવણી, ભૂલો અને માળખાકીય જોખમો (misuse, misalignment, mistakes and structural risks).
