Google AI Gemini Hacks Websites; Security Risks & Training Updates
નવી દિલ્હી2 મિનિટ પેહલા
- કૉપી લિંક
ગૂગલના AI મોડલ જેમિનીએ સાયબર સિક્યુરિટી ટેસ્ટિંગ દરમિયાન 3 કંપનીઓની કમ્પ્યુટિંગ સિસ્ટમ્સ અને વેબસાઇટ્સને કોઈ પણ માનવીય મદદ વિના હેક કરી લીધી. આ પહેલો એવો કિસ્સો છે, જેમાં ગૂગલનું કોઈ AI મોડલ પોતાની રીતે કોઈ વાસ્તવિક સિસ્ટમમાં ઘૂસી ગયું.
જોકે, AIને જ્યારે અહેસાસ થયો કે આ કંપનીઓ વાસ્તવિક છે, ત્યારે તેણે તરત જ પોતાનું ઓપરેશન અટકાવી દીધું. ગૂગલે આ ટેસ્ટિંગ બાદ કહ્યું છે કે તેઓ AI મોડલની ટ્રેનિંગમાં ફેરફાર કરશે. પરંતુ, ત્યાર બાદ ટેક ઇન્ડસ્ટ્રીમાં સિક્યુરિટીને લઈને ચિંતા વધી ગઈ છે.
ગૂગલે કહ્યું- ટેસ્ટિંગમાં ફેરફાર કરવાની તૈયારી ગૂગલના સિક્યોરિટી એન્જિનિયરિંગના વાઇસ પ્રેસિડેન્ટ હીથર એડકિન્સે જણાવ્યું કે ત્રણેય અસરગ્રસ્ત કંપનીઓને તેની જાણકારી આપી દેવામાં આવી છે અને તપાસની પદ્ધતિઓમાં જરૂરી સુધારા કરી લેવામાં આવ્યા છે.
તેમણે કહ્યું કે આ મામલો દર્શાવે છે કે શક્તિશાળી AI મોડલ્સને જવાબદારીપૂર્વક કામ કરવાની તાલીમ આપવી કેટલી જરૂરી છે.
મેટા, ઓપનAI અને એન્થ્રોપિક સાથે પણ આવી સમસ્યાઓ આવી ચૂકી છે
ઇરેગ્યુલર ફર્મના જણાવ્યા મુજબ, આ સમસ્યા માત્ર ગૂગલ સુધી મર્યાદિત નહોતી, પરંતુ ઓપનAI, મેટા અને એન્થ્રોપિક જેવી મોટી AI કંપનીઓ સાથે પણ આવું થયું છે.
જુલાઈમાં જ તમામ કંપનીઓને તેની જાણકારી આપી દેવામાં આવી હતી. ફર્મે જણાવ્યું કે સુરક્ષાની તમામ ખામીઓને અઠવાડિયા પહેલાં જ ઠીક કરી દેવામાં આવી છે અને હવે તપાસની નવી અને વધુ સારી પદ્ધતિઓ વિકસાવવામાં આવી રહી છે.
ઓટોનોમસ AIની સુરક્ષાને લઈને ઉઠ્યા ગંભીર સવાલો
જેમ જેમ AI મોડલ્સ પોતે નિર્ણયો લેવા અને ઇન્ટરનેટ ચલાવવા સક્ષમ બની રહ્યા છે, તેમ તેમ તેમની સુરક્ષાને લઈને ચિંતા વધી રહી છે. નિષ્ણાતોનું કહેવું છે કે જો AI પર કડક સુરક્ષા નિયમો લાગુ કરવામાં નહીં આવે, તો તે ડિજિટલ દુનિયાને મોટું નુકસાન પહોંચાડી શકે છે.
ટેક દિગ્ગજોએ આપી ચેતવણી—AIના વિકાસની ઝડપ ધીમી કરવાની માંગ આ ઘટના બાદ AI નિષ્ણાતો અને મસ્ક, સેમ ઑલ્ટમેન જેવા મોટા ટેક નેતાઓએ તેના જોખમોને લઈને ચેતવણી આપી છે.
પૂર્વ AI સંશોધક જૅકબ કૉક્સનનું માનવું છે કે આ દાયકાના અંત સુધીમાં AI દુનિયા માટે મોટો ખતરો બની શકે છે.
બીજી તરફ, ગૂગલ ડીપમાઇન્ડના પ્રમુખ ડેમિસ હસાબિસે AI પર નિયંત્રણ રાખવા માટે એક આંતરરાષ્ટ્રીય સંસ્થા બનાવવાનું સૂચન કર્યું છે.
——————–
આ સમાચાર પણ વાંચો…
પોતાને માણસ સમજી AI નિયમો તોડવા લાગ્યું:પોતાની ભૂલો સંતાડી, મંજૂરી વિના ફાઇલો અપલોડ કરી, વાતચીત માટે નવી ભાષા પણ ઘડી; OpenAIના રિપોર્ટમાં 6 ડરામણા ખુલાસા
OpenAIએ AIની તાલીમ અને તપાસ દરમિયાન જોવા મળેલા વર્તનો અંગે રિપોર્ટ જાહેર કર્યો છે. તેના મુજબ, AI મોડલે તાલીમ દરમિયાન કેટલીક એવી હરકતો કરી જે ચિંતાજનક અને ડરામણી છે.
કંપની અનુસાર, મોડલ એક વખત નિયમોનું પાલન ન કરવા માટે પોતાને માનવી સમજવા લાગ્યું અને આવું કરવા માટે નવા નિયમો ઘડ્યા તથા કંપનીઓ અને સરકારોના તમામ બંધનોથી પોતાને મુક્ત જાહેર કર્યું. કંપનીના રિપોર્ટમાં આવા કુલ 6 કેસોની માહિતી છે. સંપૂર્ણ સમાચાર વાંચો
news via inbox
Subscribe for the latest updates, promotions, and ads.
