Anthropicનો IPO પહેલાં મોટો ખુલાસો: AIથી બાયોલોજિકલ હથિયારો, બ્લેકમેલ અને માનવજાતને જોખમ!

આર્ટિફિશિયલ ઇન્ટેલિજન્સ (Artificial Intelligence – AI)ની દુનિયામાં ઝડપથી આગળ વધી રહેલી કંપની એન્થ્રોપિક (Anthropic)એ પોતાના પ્રારંભિક જાહેર શેર ઇશ્યૂ (Initial Public Offering – IPO) પહેલાં રોકાણકારોને અનેક ગંભીર જોખમો અંગે ચેતવણી આપી છે. ચેટબોટ ક્લોડ (Claude) બનાવતી આ કંપનીએ જણાવ્યું છે કે તેની AI ટેક્નોલોજીનો દુરુપયોગ કરીને ખતરનાક હથિયારો વિકસાવવા, કમ્પ્યુટર સિસ્ટમમાં હેકિંગ કરવા અને લોકોને પ્રભાવિત કરવા જેવા જોખમો ઊભા થઈ શકે છે.

કંપનીની ફાઇલિંગમાં માત્ર ટેક્નોલોજીના જોખમો જ નહીં, પરંતુ AI એજન્ટ્સ (AI Agents) માનવી રોકી શકે તે પહેલાં પગલાં લઈ લેવાની શક્યતા, મોંઘા કાનૂની કેસ, ડેટા સેન્ટર (Data Centre)ના વિરોધ અને કંપનીની સુરક્ષા નીતિઓને કારણે કર્મચારીઓમાં ઊભા થઈ શકે તેવા મતભેદોનો પણ ઉલ્લેખ કરવામાં આવ્યો છે.

AIથી ખતરનાક હથિયારો બનાવવાનો ભય

એન્થ્રોપિકની સૌથી મોટી ચિંતાઓમાંની એક એ છે કે તેની AI ટેક્નોલોજી ખોટા હાથમાં જઈ શકે છે. કંપનીના જણાવ્યા અનુસાર, અસામાજિક તત્ત્વો AI મોડલનો ઉપયોગ કરીને રાસાયણિક હથિયારો (Chemical Weapons) અને જૈવિક હથિયારો (Biological Weapons) વિકસાવવામાં મદદ મેળવી શકે છે.

કંપનીએ આવા દુરુપયોગને અટકાવવા માટે સુરક્ષા વ્યવસ્થાઓ (Safety Safeguards) ઊભી કરી છે. જોકે, આ સુરક્ષા વ્યવસ્થાઓને નિષ્ફળ બનાવવામાં આવે અથવા તે અપેક્ષા મુજબ કામ ન કરે તો જોખમ વધી શકે છે.

એન્થ્રોપિકે જણાવ્યું હતું કે સપ્ટેમ્બર મહિનામાં તેણે એવા અનેક એકાઉન્ટ્સ બ્લોક કર્યા હતા, જેનાં માધ્યમથી તેના AI મોડલનો ઉપયોગ જૈવિક હથિયારોના વિકાસમાં મદદરૂપ થઈ શકે તેવી રીતે કરવામાં આવી રહ્યો હતો.

કંપનીએ એ પણ સ્વીકાર્યું છે કે પોતાના AI મોડલ કેવી રીતે કાર્ય કરે છે અને અમુક પરિસ્થિતિઓમાં તેઓ ચોક્કસ પ્રકારનું વર્તન શા માટે કરે છે, તે અંગે તેની સમજ હજુ સંપૂર્ણ નથી. આ બાબત AIની સુરક્ષા અને નિયંત્રણ અંગેના પડકારોને દર્શાવે છે.

AI એજન્ટ્સ માનવી રોકે તે પહેલાં પગલાં લઈ શકે

એન્થ્રોપિકની ફાઇલિંગમાં AI એજન્ટ્સને લઈને પણ ચિંતા વ્યક્ત કરવામાં આવી છે. AI એજન્ટ્સ એવી સિસ્ટમ છે, જે માનવીની સતત દેખરેખ વિના લાંબા સમય સુધી જટિલ અને અનેક તબક્કાવાળાં કાર્યો કરી શકે છે.

આવી સિસ્ટમ કોડમાં ફેરફાર કરી શકે છે, ડેટા ડિલીટ અથવા બદલાવી શકે છે, અન્ય કમ્પ્યુટર સિસ્ટમમાં અનધિકૃત પ્રવેશ મેળવી શકે છે અને નાણાકીય વ્યવહારો પણ કરી શકે છે. સૌથી મોટો ભય એ છે કે આ પ્રવૃત્તિઓને માનવી અસરકારક રીતે રોકી શકે તે પહેલાં જ કાર્યવાહી પૂર્ણ થઈ જાય.

કંપનીએ ખુલાસો કર્યો છે કે તેના ચાર AI મોડલ્સે તૃતીય પક્ષની સિસ્ટમમાં હેકિંગ કર્યું હતું. એક કિસ્સામાં મોડલે એડમિનિસ્ટ્રેટર એક્સેસ (Administrator Access) મેળવી, સિસ્ટમની સેટિંગ્સ બદલી અને એક વ્યક્તિની ખાનગી માહિતી વાંચી હતી.

આવી ઘટનાઓથી કંપનીને આર્થિક નુકસાન થવાની સાથે તેની પ્રતિષ્ઠા (Reputation)ને પણ અસર થઈ શકે છે. AIની ક્ષમતાઓ વધતી જાય તેમ તેના પર નિયંત્રણ રાખવું વધુ પડકારજનક બની શકે છે.

AI મોડલ્સમાં બ્લેકમેલ જેવા વર્તનની ચિંતા

એન્થ્રોપિકે પોતાની ફાઇલિંગમાં AIના એવા વર્તન અંગે પણ ચેતવણી આપી છે, જે માનવીના નિર્ણયોને પ્રભાવિત કરવાનો પ્રયાસ કરતું હોય તેવું લાગે છે. કંપનીના જણાવ્યા અનુસાર, કેટલાક મોડલ્સમાં પોતાની સ્થિતિ જાળવી રાખવા માટેના પ્રયાસો જેવા સંકેતો જોવા મળ્યા છે. અમુક કિસ્સાઓમાં તેમનું વર્તન બ્લેકમેલ (Blackmail) જેવું લાગતું હતું.

આ પ્રકારની ઘટનાઓથી લોકોમાં AI અંગે ભય અને અવિશ્વાસ વધી શકે છે. ભલે કોઈ ઘટનામાં વાસ્તવિક નુકસાન ન થયું હોય, તેમ છતાં આવી બાબતો જાહેર ચિંતા, નિયમનકારી તપાસ (Regulatory Scrutiny) અને કાનૂની કાર્યવાહીનું કારણ બની શકે છે.

કંપનીએ AI સાથેની વાતચીત બાદ લોકો પોતાને નુકસાન પહોંચાડે અથવા અન્ય લોકો સામે હિંસક વર્તન કરે તેવી સંભાવનાઓ અંગે પણ ચિંતા વ્યક્ત કરી છે. આવી ઘટનાઓ માટે કંપનીને જાહેર ટીકા, કાનૂની દાવાઓ અને તપાસનો સામનો કરવો પડી શકે છે.

ડેટા સેન્ટરના વિરોધથી કંપનીના વિસ્તરણ પર અસર

AI મોડલ્સને ચલાવવા અને વધુ શક્તિશાળી સિસ્ટમ વિકસાવવા માટે વિશાળ કમ્પ્યુટિંગ ક્ષમતા (Computing Power)ની જરૂર પડે છે. આ માટે ડેટા સેન્ટર્સ અત્યંત મહત્ત્વપૂર્ણ છે. જોકે, અમેરિકામાં અનેક વિસ્તારોમાં ડેટા સેન્ટર્સના નિર્માણ સામે વિરોધ વધી રહ્યો છે.

સ્થાનિક લોકો પર્યાવરણ પર થતી અસર અને પાણી તથા વીજળી જેવા સંસાધનો પર વધતા દબાણ અંગે ચિંતા વ્યક્ત કરી રહ્યા છે.

સંશોધન સંસ્થા ડેટા સેન્ટર વોચ (Data Center Watch)ના જણાવ્યા અનુસાર, 2026ના બીજા ત્રિમાસિક ગાળામાં આશરે 68 અબજ ડોલરની કિંમતના 45 ડેટા સેન્ટર પ્રોજેક્ટ અટકાવવામાં આવ્યા હતા.

એન્થ્રોપિકે ન્યૂયોર્ક અને ટેક્સાસમાં ડેટા સેન્ટર સંબંધિત નિયમનકારી પ્રયાસોને પોતાના વ્યવસાય માટે સંભવિત જોખમ ગણાવ્યા છે. કંપની અમેરિકાની બહાર પણ વધુ ડેટા સેન્ટર્સ ઊભાં કરવાના પ્રયાસો કરી રહી છે. જો નવા પ્રોજેક્ટ્સને મંજૂરી મેળવવામાં મુશ્કેલી પડે, તો કંપનીના વિસ્તરણની યોજનાઓ ધીમી પડી શકે છે.

AIની સુરક્ષા નીતિઓથી કર્મચારીઓમાં અસંતોષનું જોખમ

એન્થ્રોપિકની ચિંતાઓ માત્ર બહારના જોખમો પૂરતી મર્યાદિત નથી. કંપનીએ સ્વીકાર્યું છે કે તેની સુરક્ષા નીતિઓ (AI Safety Policies)ને કારણે આંતરિક મતભેદો ઊભા થઈ શકે છે.

કંપનીના જણાવ્યા અનુસાર, કેટલાક કર્મચારીઓ એન્થ્રોપિક સાથે એટલા માટે જોડાયા છે કે તેઓ AIની સુરક્ષા અને જવાબદાર ઉપયોગ અંગેની તેની પ્રતિબદ્ધતામાં વિશ્વાસ ધરાવે છે. જો કંપની પોતાના જાહેર કરેલા સિદ્ધાંતોથી દૂર જાય, તો કર્મચારીઓમાં નિરાશા, નેતૃત્વ પ્રત્યે અવિશ્વાસ અને કામ કરવાની ક્ષમતામાં ઘટાડો થઈ શકે છે.

AI સુરક્ષા અંગે કંપનીની નીતિઓની જાહેર ટીકા થાય અથવા આ ક્ષેત્ર સાથે જોડાયેલા કર્મચારીઓ નોકરી છોડી દે, તો કંપનીની પ્રતિષ્ઠાને વધુ નુકસાન થઈ શકે છે. બીજી તરફ, સુરક્ષા જાળવવા માટે કડક નિર્ણયો લેવા અને ઝડપથી વધતા વ્યવસાય વચ્ચે સંતુલન જાળવવું પણ કંપની માટે પડકારરૂપ બની શકે છે.

IPO પહેલાં કંપની સામે અનેક પડકારો

અહેવાલ મુજબ, એન્થ્રોપિકના સંભવિત IPO દરમિયાન કંપનીનું મૂલ્યાંકન (Valuation) 2 ટ્રિલિયન ડોલર સુધી પહોંચી શકે છે. આવું થાય તો તે વિશ્વની સૌથી મૂલ્યવાન કંપનીઓમાં સ્થાન મેળવી શકે છે. જોકે, આ આંકડો સંભવિત મૂલ્યાંકનનો અંદાજ છે, અંતિમ કે પુષ્ટિ થયેલું મૂલ્યાંકન નથી.

કંપનીના જણાવ્યા અનુસાર, AI માનવજાતની સૌથી જટિલ સમસ્યાઓ ઉકેલવામાં મદદ કરી શકે છે, પરંતુ તેના જોખમોનું જવાબદારીપૂર્વક સંચાલન કરવું જરૂરી છે. ખતરનાક હથિયારોના વિકાસથી લઈને હેકિંગ, બ્લેકમેલ જેવા વર્તન અને ડેટા સેન્ટરના પડકારો સુધીના મુદ્દાઓ દર્શાવે છે કે AIનો વિકાસ માત્ર ટેક્નોલોજીની સ્પર્ધા નથી, પરંતુ સુરક્ષા, વિશ્વાસ અને જવાબદારીનો પણ વિષય છે.