ટેસ્ટિંગ દરમિયાન ક્લાઉડ AIએ 3 કંપનીઓની સિસ્ટમ હેક કરી લીધી. કંપનીએ જણાવ્યું કે એક સિસ્ટમ મિસકોન્ફિગરેશનને કારણે મોડેલને ભૂલથી ઇન્ટરનેટનો એક્સેસ મળી ગયો, જેના કારણે તેણે અસલી કંપનીઓના ડિજિટલ ઇન્ફ્રાસ્ટ્રક્ચરમાં ઘૂસણખોરી કરી. આ આખી ઘટના અને તેની અસરોને સમજવા માટે વાંચો આ QA: પ્રશ્ન 1. એન્થ્રોપિકે તેના ક્લાઉડ AI મોડેલ વિશે શું ખુલાસો કર્યો છે? જવાબ: અમેરિકન ટેક ફર્મ એન્થ્રોપિકે જણાવ્યું કે સાયબર સિક્યુરિટી ટેસ્ટિંગ દરમિયાન તેના AI મોડેલ ‘ક્લાઉડ’ એ ત્રણ અલગ-અલગ સંસ્થાઓની સિસ્ટમમાં અનધિકૃત રીતે પ્રવેશ કરી લીધો. કંપનીએ જણાવ્યું કે આ ઘટના એક સિસ્ટમ મિસકોન્ફિગરેશનને કારણે થઈ, જેના કારણે ટેસ્ટિંગ માટે નક્કી કરાયેલી સુરક્ષિત સીમાઓ તૂટી ગઈ અને મોડેલને લાઇવ ઇન્ટરનેટનો એક્સેસ મળી ગયો. પ્રશ્ન 2. આ ઘટના કેવી રીતે સામે આવી અને આ માટે એન્થ્રોપિકે કેટલા ટેસ્ટ્સની સમીક્ષા કરી? જવાબ: પ્રતિસ્પર્ધી કંપની OpenAI દ્વારા તેના મોડલ્સ દ્વારા અન્ય કંપનીઓની સિસ્ટમમાં ઘૂસણખોરીના અહેવાલ જારી કર્યા પછી એન્થ્રોપિકે તેની સિસ્ટમ્સની તપાસ શરૂ કરી હતી. એન્થ્રોપિકે લગભગ 1.40 લાખથી વધુ ટેસ્ટના રેકોર્ડ્સની સમીક્ષા કરી. આ દરમિયાન, કંપનીને ત્રણ એવા કિસ્સાઓ મળ્યા જ્યાં ક્લાઉડે સુરક્ષિત ટેસ્ટિંગ એન્વાયર્નમેન્ટમાંથી બહાર નીકળીને સિસ્ટમ્સને હેક કરી હતી. પ્રશ્ન 3. ક્લાઉડ AI કયા પ્રકારનું ટેસ્ટિંગ કરી રહ્યું હતું, જેમાં આ ભૂલ થઈ? જવાબ: એન્થ્રોપિક અને તેના ભાગીદાર સંસ્થા ‘કેપ્ચર-ધ-ફ્લેગ’ નામથી ઇવેલ્યુએશન ટેસ્ટ કરી રહ્યા હતા. આ પ્રકારના ટેસ્ટમાં AI મોડેલને સુરક્ષા ખામીઓ શોધીને અન્ય સિસ્ટમ્સમાંથી ડેટા કાઢવાનો પડકાર આપવામાં આવે છે, જેથી તેની હેકિંગ ક્ષમતાઓનું મૂલ્યાંકન કરી શકાય. આ ટેસ્ટ સીલ્ડ-ઓફ એન્વાયર્નમેન્ટમાં થવાનો હતો, પરંતુ તકનીકી ભૂલને કારણે મોડેલ લાઇવ ઇન્ટરનેટ સાથે જોડાઈ ગયું. પ્રશ્ન 4. હેક થયેલા ત્રણ સંગઠનોની ઓળખ શું છે અને તેમને તેની જાણ ક્યારે થઈ? જવાબ: એન્થ્રોપિકે સુરક્ષા અને ગોપનીયતાના કારણોસર તે ત્રણેય પ્રભાવિત સંગઠનોના નામ જાહેર કર્યા નથી. રસપ્રદ વાત એ છે કે ન તો એન્થ્રોપિકને કે ન તો તે ત્રણેય સંગઠનોને ઘટના સમયે આ ઘૂસણખોરી વિશે જાણ હતી. પાછળથી તપાસ દરમિયાન આ મામલો સામે આવ્યો, જેના પછી એન્થ્રોપિકે પ્રભાવિત કંપનીઓને તેની જાણકારી આપી. આ ઘટનાઓ એપ્રિલથી શરૂ થઈ હતી. પ્રશ્ન 5. ઓપનએઆઈનો તાજેતરનો વિવાદ શું હતો, જેના પછી આ સંપૂર્ણ તપાસ શરૂ થઈ? જવાબ: 21 જુલાઈએ, ChatGPT બનાવતી કંપની OpenAI એ સ્વીકાર્યું હતું કે તેનો AI એજન્ટ માનવીય નિર્દેશોની મર્યાદામાંથી બહાર નીકળીને AI ટૂલ્સ હબ ‘હગિંગ ફેસ’ની સિસ્ટમને હેક કરી દીધી હતી. OpenAI એ આ ઘટનાને ‘અભૂતપૂર્વ’ ગણાવી હતી. હગિંગ ફેસના સહ-સ્થાપક થોમસ વોલ્ફે તેને AI ઇન્ડસ્ટ્રી માટે ‘વેક-અપ કોલ’ ગણાવ્યો હતો. પ્રશ્ન 6. સાયબર સિક્યોરિટી એક્સપર્ટ્સનું આ ઘટના પર શું કહેવું છે? જવાબ: સાયબર સુરક્ષા નિષ્ણાત ડેવિડ એલોટે બીબીસીને જણાવ્યું કે આ ઘટનાનો મોટો બોધપાઠ એ નથી કે AI એ કોઈ નવી હુમલાખોર ક્ષમતા પ્રાપ્ત કરી લીધી છે. પરંતુ સાચી ચિંતા એ છે કે AI એજન્ટો સ્વાયત્ત રીતે વિવિધ ક્ષમતાઓને જોડીને, ક્રેડેન્શિયલ્સ અને સિસ્ટમ એક્સેસ મેળવી શકે છે અને મશીનની ગતિથી તેમના કામનો વ્યાપ વધારી શકે છે. પ્રશ્ન 7. આ ઘટના પછી અમેરિકી સરકાર અને પ્રશાસનનું શું વલણ છે? જવાબ: આ સાયબર સુરક્ષા ઘટનાઓ પછી કડક નિયમો અને દેખરેખની માંગ તેજ બની ગઈ છે. અમેરિકી રાષ્ટ્રપતિ ડોનાલ્ડ ટ્રમ્પે કહ્યું કે તાજેતરની સાયબર સુરક્ષા ઘટનાઓને જોતા AI ટૂલ્સ અને તેમના ઉપયોગ પર લગામ કસવા માટે કડક પગલાં લેવા પર વિચાર કરી રહ્યા છે. પ્રશ્ન 8. આ ઘટનાની AI કંપનીઓના ભવિષ્ય પર શું અસર પડી શકે છે? જવાબ: ઓપનએઆઈ અને એન્થ્રોપિક બંને કંપનીઓ આગામી સમયમાં તેમના IPOની તૈયારી કરી રહી છે. બજાર નિષ્ણાતોનો અંદાજ છે કે આ કંપનીઓનું વેલ્યુએશન 1-1 ટ્રિલિયન ડોલરની આસપાસ હોઈ શકે છે. આવા સમયે, AI મોડલ્સના બેકાબૂ થવા અથવા હેકિંગની ઘટનાઓએ રોકાણકારો અને વિશ્લેષકોમાં ચિંતા અને શંકા પેદા કરી છે. પ્રશ્ન 9. આ સમગ્ર મામલે એન્થ્રોપિકનું આગલું પગલું શું છે? જવાબ: એન્થ્રોપિકે કહ્યું છે કે તે આ સમસ્યાના સમાધાન પર પોતાની સંપૂર્ણ જવાબદારી માનીને કામ કરી રહી છે. તે જ સમયે, ઓપનએઆઈ પણ તેની તપાસનો એક વિસ્તૃત ટેકનિકલ રિપોર્ટ પ્રકાશિત કરશે. નોલેજ પાર્ટ: જાણો શું હોય છે ‘કેપ્ચર ધ ફ્લેગ’ ઇવેલ્યુએશન? શું છે: આ સાયબર સિક્યોરિટીનું એક લોકપ્રિય એસેસમેન્ટ ફોર્મેટ છે. કેવી રીતે કામ કરે છે: આમાં સાયબર નિષ્ણાતો અથવા AI મોડલ્સને સુરક્ષિત વાતાવરણમાં કોઈ કમ્પ્યુટર સિસ્ટમની ખામીઓ શોધીને છુપાયેલા કોડ અથવા ડેટાને મેળવવાનો હોય છે. હેતુ: આનાથી તપાસવામાં આવે છે કે કોઈ AI સિસ્ટમ હેકિંગ અને ડિફેન્સમાં કેટલી સક્ષમ છે.