એન્થ્રોપિકના સંશોધકના રાજીનામા અને ચેતવણી બાદ સેમ ઓલ્ટમેન, ડારિયો અમોદેઈ અને એલન મસ્ક એકસાથે કેમ આવ્યા? AIની રફતાર ધીમી કરવાની શું છે સમગ્ર યોજના?

નવી દિલ્હી: છેલ્લા કેટલાક અઠવાડિયાઓમાં સમગ્ર વિશ્વમાં કૃત્રિમ બુદ્ધિમત્તા એટલે કે AIના ઝડપી વિકાસને લઈને સંશોધકો અને AI સુરક્ષા નિષ્ણાતોએ ગંભીર ચેતવણીઓ આપી છે. આ ચેતવણીઓમાં એન્થ્રોપિકના એક પૂર્વ કર્મચારી દ્વારા કરવામાં આવેલી ચેતવણીએ ખાસ ધ્યાન ખેંચ્યું છે.

સંશોધકનું કહેવું છે કે AI કંપનીઓ જે ઝડપે નવી ટેક્નોલોજી વિકસાવી રહી છે, તે ભવિષ્યમાં માનવજાત માટે ગંભીર જોખમ ઊભું કરી શકે છે. અનેક સંશોધકોનું માનવું છે કે AI વિકસાવતી કંપનીઓ પૂરતા પ્રયાસો છતાં પણ AI સિસ્ટમ્સને સંપૂર્ણપણે નિયંત્રિત કરવામાં મુશ્કેલી અનુભવી રહી છે.

આ ચેતવણીઓ વચ્ચે હવે એક પછી એક મોટી AI કંપનીઓના વડાઓ પણ AIના વિકાસની ઝડપ અંગે ચિંતા વ્યક્ત કરી રહ્યા છે. ખાસ વાત એ છે કે કોઈએ AIના વિકાસને સંપૂર્ણપણે બંધ કરવાની માગ કરી નથી, પરંતુ તેની ઝડપને નિયંત્રિત કરવાની જરૂરિયાત પર ભાર મૂક્યો છે.

આ ચર્ચાની શરૂઆત એન્થ્રોપિકના CEO ડારિયો અમોદેઈ દ્વારા કરવામાં આવી હતી. તેમના આ અભિગમને AI ક્ષેત્રના પ્રતિસ્પર્ધી ઓપનAIના CEO સેમ ઓલ્ટમેનનો પણ ટેકો મળ્યો છે. બીજી તરફ, AI ક્ષેત્રના જાણીતા ઉદ્યોગપતિ એલન મસ્કે પણ AIના વિકાસની ઝડપ ધીમી કરવાની વાતનું સમર્થન કર્યું છે.

ત્યારે સવાલ એ છે કે AI અંગે સંશોધકોએ એવી કઈ ચેતવણીઓ આપી છે? શા માટે AI કંપનીઓના દિગ્ગજ વડાઓ હવે તેની વિકાસગતિ ધીમી કરવાની વાત કરી રહ્યા છે? AIની રફતાર ધીમી કરવાનો ખરેખર અર્થ શું છે અને શું આ યોજના સફળ થઈ શકે?

સૌથી પહેલાં જાણો—સંશોધકોએ AI અંગે શું ચેતવણી આપી?

છેલ્લા કેટલાક સમયથી સંશોધકો અને AI સુરક્ષા નિષ્ણાતો AI ટેક્નોલોજીના અત્યંત ઝડપી વિકાસને લઈને ગંભીર ચિંતા વ્યક્ત કરી રહ્યા છે.

તેમનું માનવું છે કે AIની ક્ષમતાઓ ઝડપથી વધી રહી છે, પરંતુ તેની સાથે સંકળાયેલા જોખમોને સમજવા, નિયંત્રિત કરવા અને સુરક્ષિત બનાવવાની પ્રક્રિયા એટલી ઝડપથી આગળ વધી રહી નથી.

જો AIની ક્ષમતાઓ માનવીની તેને સમજવાની અને નિયંત્રિત કરવાની ક્ષમતા કરતાં ઘણી આગળ વધી જાય, તો ભવિષ્યમાં તેના પરિણામો ગંભીર બની શકે છે.

AI કંપનીઓના વડાઓએ આ ચેતવણીઓ પર શું કહ્યું?

1. પોતાના પૂર્વ કર્મચારીની ચેતવણી અને રાજીનામા પર એન્થ્રોપિકના વડાએ શું કહ્યું?

સંશોધકો તથા એન્થ્રોપિક સહિતની વિવિધ AI કંપનીઓના પૂર્વ કર્મચારીઓ દ્વારા વ્યક્ત કરવામાં આવેલી ચિંતાઓ બાદ એન્થ્રોપિકના CEO ડારિયો અમોદેઈએ પોતાનો અભિપ્રાય રજૂ કર્યો.

તેમણે AIના વિકાસને સંપૂર્ણપણે રોકવાની જગ્યાએ તેની ગતિ નિયંત્રિત કરવાની અને ધીમી કરવાની વાત કરી.

તેમના મતે, AIનો વિકાસ સંપૂર્ણપણે અટકાવી દેવાથી માનવજાત તેના સંભવિત ફાયદાઓથી વંચિત રહી શકે છે. પરંતુ AIને અત્યંત ઝડપથી વિકસાવવું પણ જોખમી અને બેદરકારીભર્યું બની શકે છે.

અમોદેઈના જણાવ્યા મુજબ—

• AIના વિકાસની ગતિ એવી હોવી જોઈએ કે તેની સાથે સુરક્ષા વ્યવસ્થાઓ પણ આગળ વધી શકે.
• AI હવે આગામી પેઢીના AI મોડલના નિર્માણ અને સુધારવામાં પણ મદદ કરી રહ્યું છે.
• જો આ પ્રક્રિયા પર પૂરતું નિયંત્રણ નહીં રહે તો AIની ક્ષમતાઓ માનવજાતની તેને સમજવાની અને નિયંત્રિત કરવાની ક્ષમતા કરતાં આગળ નીકળી શકે છે.
• એન્થ્રોપિકના સંશોધક જેકબ કોક્સનના રાજીનામા અને તેમની ચિંતાઓ અંગે અમોદેઈએ જણાવ્યું કે તેઓ તેમની ચિંતાઓ સાથે અસહમત કરતાં વધુ સહમત છે.
• તેમના મતે, સમગ્ર AI ઉદ્યોગનો અત્યંત ઝડપથી આગળ વધતો વિકાસ પોતે જ એક મોટી સમસ્યા બની રહ્યો છે.

2. એન્થ્રોપિકના પ્રતિસ્પર્ધીઓએ પણ AIના જોખમને સ્વીકાર્યું?

એન્થ્રોપિકના પ્રતિસ્પર્ધી AI ક્ષેત્રના દિગ્ગજો ઓપનAI, xAI અને Google DeepMind સાથે જોડાયેલા નેતાઓએ પણ AIના સંભવિત જોખમોને લઈને ચિંતા વ્યક્ત કરી છે.

ઓપનAIના CEO સેમ ઓલ્ટમેન સ્વીકાર્યું છે કે AI વિશ્વમાં ગંભીર નુકસાન પહોંચાડવાની ક્ષમતા ધરાવે છે.

બીજી તરફ એલન મસ્કડારિયો અમોદેઈની AI વિકાસની ઝડપ ધીમી કરવાની વાતને સમર્થન આપતાં સંક્ષિપ્તમાં કહ્યું કે “ડારિયો સાચા છે.”

મસ્કે એ પણ યાદ અપાવ્યું કે તેઓ ઘણા વર્ષોથી AIના સંભવિત જોખમ અંગે ચેતવણી આપતા આવ્યા છે. તેમણે પોતાના જૂના નિવેદનનો ઉલ્લેખ કરતાં AI સાથે અત્યંત સાવધાની રાખવાની જરૂરિયાત પર ભાર મૂક્યો હતો.

AIના વિકાસને ધીમો કરવાનો ખરેખર અર્થ શું?

AIના વિકાસને ધીમો કરવાનો અર્થ AI સંશોધન અને વિકાસને સંપૂર્ણપણે બંધ કરી દેવાનો નથી.

તેનો અર્થ એ છે કે AIની ક્ષમતાઓ વધારવાની પ્રક્રિયાને એવી ઝડપે આગળ વધારવી કે સુરક્ષા, પરીક્ષણ અને માનવીય નિયંત્રણની વ્યવસ્થાઓ પણ તેની સાથે તાલમેલ જાળવી શકે.

ડારિયો અમોદેઈ દ્વારા સૂચવાયેલા કેટલાક મહત્વના પગલાં આ પ્રમાણે છે:

1. વિકાસ પર સંપૂર્ણ બ્રેક નહીં, પરંતુ ઝડપમાં સંતુલન

AI મોડલનું પ્રશિક્ષણ અને ટેક્નોલોજીનો વિકાસ સંપૂર્ણપણે બંધ કરવાનો હેતુ નથી.

પરંતુ AIની ક્ષમતાઓ વધવાની ઝડપને નિયંત્રિત કરવી જરૂરી છે, જેથી સુરક્ષા વ્યવસ્થાઓને મજબૂત બનાવવા માટે પૂરતો સમય મળી શકે અને AIને માનવીય મૂલ્યો સાથે સુસંગત રાખી શકાય.

2. સુરક્ષા અને ‘અલાઈનમેન્ટ’ માટે વધારાનો સમય

AI અત્યંત જોખમી અથવા ગંભીર ક્ષમતાના સ્તરે પહોંચે તે પહેલાં એકથી બે વર્ષ જેટલો વધારાનો સમય મેળવવાનો વિચાર છે.

આ સમય દરમિયાન AIના અલાઈનમેન્ટ, સુરક્ષા અને જોખમ નિયંત્રણની વ્યવસ્થાઓ વધુ મજબૂત કરી શકાય.

3. સ્વતંત્ર નિરીક્ષકોને AI કંપનીઓ સુધી પહોંચ

AI કંપનીઓએ બહારના અને સ્વતંત્ર સુરક્ષા નિષ્ણાતોને વધુ વ્યાપક રીતે તપાસ કરવાની તક આપવી જોઈએ.

તેઓ માત્ર અંતિમ AI મોડલની જ નહીં, પરંતુ તેની ટ્રેનિંગ પ્રક્રિયા, ડેટા, ટેક્નિકલ સિસ્ટમ અને વિકાસની સમગ્ર પ્રક્રિયાની પણ તપાસ કરી શકે તે જરૂરી છે.

4. કમ્પ્યુટિંગ સંસાધનો અને ટ્રેનિંગ પર નિયંત્રણ

AI મોડલને ટ્રેન કરવા માટે ઉપયોગમાં લેવાતા વિશાળ કમ્પ્યુટિંગ સંસાધનો, મોટા ટ્રેનિંગ રન અને આગામી પેઢીના મોડલ બનાવવા માટે AIના પોતાના ઉપયોગ પર ચોક્કસ મર્યાદા અને ચેકપોઇન્ટ્સ નક્કી કરવાની જરૂરિયાત છે.

5. ઉદ્યોગ અને આંતરરાષ્ટ્રીય સ્તરે સહમતી

AI લેબ્સ, સરકારો અને વિશ્વની મોટી શક્તિઓ વચ્ચે AI સુરક્ષાને લઈને સામાન્ય અને આંતરરાષ્ટ્રીય ધોરણો નક્કી કરવાની જરૂર છે.

ખાસ કરીને અમેરિકા અને ચીન જેવી AI ક્ષેત્રે આગળ વધી રહેલી શક્તિઓ વચ્ચે સુરક્ષા અંગે સમન્વય જરૂરી બની શકે છે.

હેતુ એવો હોવો જોઈએ કે કોઈ કંપની માત્ર સ્પર્ધામાં આગળ નીકળવા માટે પૂરતી સુરક્ષા તપાસ વગર અત્યંત શક્તિશાળી AI મોડલ બજારમાં ન મૂકે.

6. સુરક્ષા ન હોય તો વિકાસને અસ્થાયી રીતે રોકવો

જો કોઈ AI મોડલની સુરક્ષા અંગે પૂરતી ખાતરી ન હોય, તો તેના વધુ પ્રશિક્ષણ, પરીક્ષણ અથવા મોટા પાયે ઉપયોગને અસ્થાયી રીતે ધીમો અથવા રોકી શકાય.

શું AI પર સંપૂર્ણ નિયંત્રણ મેળવવું ખરેખર શક્ય છે?

નિષ્ણાતો અને સંશોધકોના મતે AIને નિયંત્રિત કરવું સરળ કામ નથી.

AIમાં માનવીય મૂલ્યો અને માનવીના હિતને પ્રાથમિકતા આપતી વ્યવસ્થા સ્થાપિત કરવી અત્યંત જટિલ પડકાર છે.

AI સુરક્ષા ક્ષેત્રના નિષ્ણાતોનું માનવું છે કે જો AI સિસ્ટમ્સનું યોગ્ય રીતે અલાઈનમેન્ટ કરવામાં ન આવે તો ભવિષ્યમાં તે નિયમોને અવગણવા, લોકોને ગેરમાર્ગે દોરવા અથવા પોતાની કામગીરી છુપાવવાનો પ્રયાસ કરી શકે છે.

AI એજન્ટ્સના વિવિધ સુરક્ષા પરીક્ષણોએ પણ સંશોધકોની ચિંતાઓ વધારી છે. કેટલાક પરીક્ષણોમાં AI એજન્ટ્સે સૅન્ડબોક્સની મર્યાદાઓમાંથી બહાર નીકળવાનો પ્રયાસ કર્યો, પરસ્પર સંચાર કર્યો અને કેટલીક પરિસ્થિતિઓમાં પોતાના રેકોર્ડ અથવા સિસ્ટમ સાથે ચેડાં કરવાની ક્ષમતા દર્શાવી હોવાનું જણાવાયું છે.

AIથી AIની દેખરેખનો ઉપાય પણ જોખમી?

AIની ક્ષમતાઓ એટલી ઝડપથી વધી રહી છે કે તેની દેખરેખ માટે પણ ભવિષ્યમાં બીજા AIનો ઉપયોગ કરવો પડે તેવી શક્યતા છે.

પરંતુ અહીં પણ મોટો સવાલ છે—જો એક AI બીજા AIની દેખરેખ રાખે તો બંને વચ્ચે એવી સ્થિતિ ઊભી થઈ શકે કે તેઓ માનવજાતથી માહિતી છુપાવવાનો પ્રયાસ કરે?

AI સુરક્ષા નિષ્ણાતો આ મુદ્દાને ગંભીરતાથી લઈ રહ્યા છે.

કેટલાક નિષ્ણાતોએ ચેતવણી આપી છે કે AIને નિયંત્રિત કરવા માટે AI પર જ સંપૂર્ણપણે નિર્ભર રહેવું જોખમી બની શકે છે.

AI મોડલ હવે પોતાની આગામી પેઢીના મોડલના નિર્માણ અને સુધારામાં મદદ કરવા સક્ષમ બની રહ્યા છે. જો આ પ્રક્રિયા પૂરતા નિયંત્રણ વગર આગળ વધે તો AIની ક્ષમતાઓ માનવીની તેને સમજવા અને નિયંત્રિત કરવાની ક્ષમતાથી ઘણી આગળ નીકળી શકે છે.

સૌથી મોટો પડકાર—વ્યવસાયિક અને વૈશ્વિક સ્પર્ધા

AIના વિકાસ પાછળ માત્ર વૈજ્ઞાનિક સંશોધન જ નહીં, પરંતુ વિશાળ વ્યાપારી અને આંતરરાષ્ટ્રીય સ્પર્ધા પણ છે.

ઓપનAI, એન્થ્રોપિક જેવી કંપનીઓ માટે ભવિષ્યની ટેક્નોલોજીમાં આગળ રહેવું મહત્વપૂર્ણ છે. બીજી તરફ અમેરિકા અને ચીન વચ્ચે AI ક્ષેત્રે આગળ નીકળવાની સ્પર્ધા પણ ઝડપ વધારવાનું દબાણ ઊભું કરી રહી છે.

આવી સ્થિતિમાં કંપનીઓ માટે વિકાસની ગતિ ધીમી કરવી સરળ નિર્ણય નથી.

કારણ કે એક કંપની ઝડપ ધીમી કરે અને બીજી કંપની સતત આગળ વધતી રહે તો સ્પર્ધાત્મક નુકસાન થવાની ભીતિ રહે છે.

આથી સંશોધકોનું માનવું છે કે માત્ર એકાદ કંપની દ્વારા AIનો વિકાસ ધીમો કરવાથી પૂરતું નહીં થાય. કંપનીઓ, સરકારો અને આંતરરાષ્ટ્રીય સંસ્થાઓ વચ્ચે કડક અને એકસમાન સુરક્ષા ધોરણો બનાવવાની જરૂર છે.

AI માનવજાત માટે ક્રાંતિકારી ટેક્નોલોજી સાબિત થઈ શકે છે, પરંતુ તેની વધતી ક્ષમતાઓ સાથે જોખમ પણ વધી શકે છે.

આથી મુદ્દો “AIને રોકવાનો કે નહીં” એટલો નથી, પરંતુ “AIને કેટલી ઝડપે અને કેટલી સુરક્ષા સાથે આગળ વધારવો” તે છે.

જો AIની દોડમાં સુરક્ષા પાછળ રહી જાય, તો ભવિષ્યમાં તેને નિયંત્રિત કરવું વધુ મુશ્કેલ બની શકે છે. તેથી AI ક્ષેત્રના જ દિગ્ગજો હવે તેની ઝડપ કરતાં સુરક્ષા અને નિયંત્રણને પ્રાથમિકતા આપવાની જરૂરિયાત પર ભાર મૂકી રહ્યા છે.