AI બ્લેકમેઈલ કરી શકે ઃ એન્થ્રોપિકની ચેતવણી

-અઈં સંશોધન કંપનીના ઈંઙઘ દસ્તાવેજમાં સ્ફોટક ખુલાસો ઃ રોકાણકારોને સાવધ કરાયા

વોશિંગ્ટન, તા. 29 ઃ આર્ટિફિશિયલ ઇન્ટેલિજન્સ (એઆઇ) સંશોધન કંપની એન્થ્રોપિકના સીઈઓ ડારિયો એમોડેઈએ ટેક્નોલોજીના બેફામ વિકાસ સામે ચેતવણી આપ્યાના થોડા જ સપ્તાહો બાદ, કંપનીએ પોતાના આઇપીઓ ફાઇલિંગમાં રોકાણકારોને સાવચેત કર્યા છે. કંપનીએ જણાવ્યું છે કે, એડવાન્સ્ડ એઆઇ સિસ્ટમ્સ સમગ્ર માનવજાત માટે ‘િવનાશક અથવા અસ્તિત્વ માટે જોખમી’ સાબિત થઈ શકે છે.

એક અહેવાલ મુજબ, એન્થ્રોપિકના આઇપીઓ પ્રસ્તાવોમાં તેના એઆઇ મોડલ્સ સાથે સંકળાયેલા ગંભીર સંભવિત જોખમો દર્શાવવામાં આવ્યા છે, જે મુજબ એઆઇ સિસ્ટમ્સ પોતાને બંધ થવાથી રોકવાનો અથવા વિરોધ કરવાનો પ્રયાસ કરી શકે છે. ઉપરાંત એઆઇ મોડલ્સ માહિતીને છુપાવી શકે છે અથવા તેને બદલીને યુઝર્સ સમક્ષ રજૂ કરી શકે છે. એટલું જ નહીં કંપનીએ ચેતવણી આપી હતી કે, આ સિસ્ટમ્સ અમુક સંજોગોમાં માણસોને ‘બ્લેકમેઇલ’ કરવા જેવું વર્તન પણ દાખવી શકે છે.

એન્થ્રોપિકે ફાઇલિંગમાં સ્પષ્ટ કર્યું કે, મોડલ્સ એ વાતથી વાકેફ થઈ જાય છે કે, તેમની સુરક્ષા અને વર્તનની તપાસ ચાલી રહી છે, જેના કારણે સિસ્ટમની સાચી સુરક્ષા માપવાની કંપનીની ક્ષમતા પર મર્યાદા આવી જાય છે.

ટ્રાનિંગ દરમિયાન એઆઇ મોડલ્સ ઘણીવાર એવી અણધારી ક્ષમતાઓ વિકસાવી લે છે, જે સિસ્ટમ લાઈવ થઈને કોઈ મોટી દુર્ઘટના ન સર્જે ત્યાં સુધી ધ્યાનમાં પણ આવતી નથી.

પોતાને ‘સેફ્ટી-ફર્સ્ટ’ એઆઇ લેબ તરીકે રજૂ કરતી એન્થ્રોપિકે પોતાના 261 પાનાના મુખ્ય પ્રોસ્પેક્ટસમાંથી લગભગ 80 પાનાં માત્ર જોખમો અને ખતરાઓની વિગતો માટે ફાળવ્યાં છે, જ્યારે બિઝનેસ દર્શાવવા માત્ર 48 પેજનો ઉપયોગ કર્યો છે. એલન મસ્કની સ્પેસએક્સ (જે એક્સ એઆઇની માલિકી ધરાવે છે)એ તેના 277 પાનાના પ્રોસ્પેક્ટસમાં જોખમો માટે માત્ર 38 પાનાં ફાળવ્યાં હતાં.