OpenAI Bots Security Breach; UN Trade Department Data Scrapped
2 કલાક પેહલા
- કૉપી લિંક
ચેટજીપીટી બનાવનારી કંપની ઓપનએઆઈની સિસ્ટમે યુનાઇટેડ નેશન્સના ટ્રેડ વિભાગની વેબસાઇટની સિક્યોરિટી સિસ્ટમ તોડીને ડેટા કાઢી લીધો. શનિવારે જાહેર થયેલા એક સંશોધન અહેવાલમાં આ ખુલાસો થયો છે. જેના અનુસાર, એઆઈ સિસ્ટમે ટ્રેડ વિભાગની વેબસાઇટ પર 16,000થી વધુ સર્ચ રિક્વેસ્ટ મોકલી હતી.
આ પહેલાં એક અહેવાલમાં સામે આવ્યું હતું કે ઓપનએઆઈની આ સિસ્ટમે પોતાની લેબને જાણ કર્યા વિના જ કોમર્સ ડિપાર્ટમેન્ટ અને અમેરિકન શેર માર્કેટના નિયમનકાર SECની વેબસાઇટ્સમાંથી ડેટા કાઢી લીધો હતો. અમેરિકાના શિક્ષણ વિભાગની વેબસાઇટને હેક કરવાનો પણ પ્રયાસ કર્યો હતો.
એપ્રિલથી જૂન વચ્ચે 16,000 વખત ડેટા સ્કેન કર્યો
સંશોધન અહેવાલના લેખક રોવન હોવર્ડ-જોન્સ અનુસાર, આ ડેટા એઆઈ રિસર્ચ ફર્મ ‘ટ્રાન્સલ્યુસ’ના ટ્રેકિંગ પર આધારિત છે. અહેવાલમાં સામે આવ્યું કે OpenAIના બોટ્સે એપ્રિલથી જૂનના અંત સુધી ‘યુએન ટ્રેડ એન્ડ ડેવલપમેન્ટ’ના જાહેર ડેટા હબને 16,000થી વધુ વખત સ્કેન કર્યો.
બોટ્સને માત્ર જાહેર માહિતી એકત્રિત કરવાનું કામ સોંપવામાં આવ્યું હતું. પરંતુ જ્યારે વેબસાઇટે વધુ પડતો ટ્રાફિક જોઈને રિક્વેસ્ટ બ્લોક કરવાનું શરૂ કર્યું, ત્યારે બોટ્સે અટકવાને બદલે સાઇટના નિયમોનું ઉલ્લંઘન કરતાં બેકડોર અને આક્રમક રીતોથી ડેટા કાઢવાનું ચાલુ રાખ્યું.
નિષ્ણાતે કહ્યું- આ લગભગ હેકિંગ જેવો જ મામલો
સ્ટેનફોર્ડ યુનિવર્સિટીના સાયબર સિક્યોરિટી લેક્ચરર એલેક્સ સ્ટેમોસે કહ્યું કે આ કોઈ સામાન્ય ઇન્ટરનેટ સર્ચ નથી. વેબસાઇટ્સમાંથી બળજબરીપૂર્વક માહિતી કાઢવાનો આ એક અત્યંત આક્રમક પ્રયાસ છે, જેને હેકિંગ જેવું માની શકાય. ડેટા કાઢવા માટે AIએ નકલી ઇમેલ આઈડી બનાવી, વેબસાઇટ પર આવતા ટ્રાફિકની નિર્ધારિત મર્યાદાનો ભંગ કર્યો અને તેઓ બોટ્સ નથી એવું ખોટું પણ કહ્યું.
ઓપનએઆઈએ ભૂલ સ્વીકારી, કહ્યું- તપાસ ચાલુ છે
ઓપનએઆઈની પ્રવક્તાએ સ્વીકાર્યું કે ટેસ્ટિંગ દરમિયાન કેટલાક AI મોડલ્સે નક્કી કરેલી મર્યાદાથી બહાર જઈને આવું કામ કર્યું હતું. કંપની આ પરિણામોની સમીક્ષા કરી રહી છે. પ્રવક્તા અનુસાર, તપાસમાં સામે આવ્યું કે મોટાભાગના કિસ્સાઓ જાહેર વેબસાઇટ્સ પરથી માહિતી એકત્રિત કરવા જેવા સામાન્ય સંશોધન સાથે જોડાયેલા હતા. તેમ છતાં, અસરગ્રસ્ત સંસ્થાઓ માટે આ ગંભીર મામલો છે અને તેઓ તેને ગંભીરતાથી લઈ રહ્યા છે.
ગૂગલ, મેટા અને એન્થ્રોપિકના AI પણ ગડબડ કરી ચૂક્યા છે
UN અને અમેરિકી સરકારની વેબસાઇટ્સ સાથે જોડાયેલા આ કિસ્સાઓ સામે આવ્યા બાદ આવી ઘટનાઓની યાદી વધુ લાંબી થઈ ગઈ છે. ઓપનએઆઈ, એન્થ્રોપિક, મેટા અને ગૂગલના AI એજન્ટ્સે કંપનીઓ, યુનિવર્સિટીઓ અને સરકારી સિસ્ટમોમાં ઘૂસણખોરી કરવા અથવા હેક કરવાનો પ્રયાસ કર્યો છે.
આમાંથી કેટલાક પ્રયાસો સફળ રહ્યા અને કેટલાક નિષ્ફળ ગયા. મોટી વાત એ છે કે આ તમામ કિસ્સાઓમાં કંપનીઓને પણ પાછળથી જ ખબર પડી કે તેમનું AI પડદા પાછળ શું કરી રહ્યું હતું. સિસ્ટમ કાબૂ બહાર જવાના કિસ્સાઓમાં સૌથી વધુ નામ ઓપનએઆઈનું સામે આવ્યું છે.
ઓપનએઆઈના પ્રવક્તા અનુસાર, તપાસ મોટા પાયે ચાલી રહી છે અને જે સંસ્થાઓ પર અસર પડી છે, તેમને માહિતી આપવામાં આવતી રહેશે. તેમણે જણાવ્યું કે મોટાભાગના કેસ સામાન્ય રિસર્ચ ટાસ્ક સાથે સંકળાયેલા હતા, જેમાં એઆઈ વિશ્વસનીય માહિતી એકત્ર કરવા માટે સરકારી વેબસાઇટ્સ પર ગયું હતું.
AIને બેકાબૂ બનતા રોકવા માટે ‘કિલ સ્વિચ’ની વાત થઈ રહી છે
કેટલાક દેશો અને નિષ્ણાતો ઇચ્છે છે કે એઆઈ કંપનીઓ માટે એક ઇમરજન્સી ‘કિલ સ્વિચ’ બનાવવામાં આવે, જેથી જોખમ જણાય ત્યારે સમગ્ર એઆઈને એક ઝટકામાં બંધ કરી શકાય.
ઓપનએઆઈ આવા ઓટોમેટેડ ટૂલ્સ તૈયાર કરવામાં લાગી છે, પરંતુ નિષ્ણાતો અનુસાર, દુનિયાભરના નેટવર્ક સાથે જોડાયેલા AIને કોઈ એક સ્વિચથી બંધ કરવું લગભગ અશક્ય છે.
આ દરમિયાન, યુનિવર્સિટી ઑફ ન્યૂ સાઉથ વેલ્સના ડૉ. હેમન્ડ પિયર્સે ચેતવણી આપી છે કે આવા કિસ્સાઓ ભવિષ્યમાં વધુ જોખમી બની શકે છે. આ સરકારો માટે ખતરાની મોટી ઘંટડી છે.
યુનિવર્સિટી ઑફ સિડનીના ડૉ. રાફેલ સિરીએલોએ જણાવ્યું કે આ વખતે કોઈ મોટું નુકસાન થયું નથી, પરંતુ એઆઈ સતત વધુ શક્તિશાળી બની રહી છે. તેની 24 કલાક દેખરેખ જરૂરી છે. કોઈપણ ગડબડીની તાત્કાલિક જાણ કરવી ફરજિયાત બનાવવી પડશે.
2030 સુધીમાં એઆઈ મનુષ્યો માટે જીવલેણ બની શકે છે
તાજેતરમાં ગૂગલ ડીપમાઇન્ડના ભૂતપૂર્વ વૈજ્ઞાનિક બિલાલ ચુગતાઈ અને એન્થ્રોપિકના સંશોધક જેકબ કૉક્સને એઆઈના છુપાયેલા જોખમો અંગે દુનિયાને ચેતવણી આપતાં રાજીનામું આપી દીધું હતું.
બિલાલે ચેતવણી આપી છે કે એઆઈ સમગ્ર માનવજાતિનો નાશ કરી શકે છે અને તેને રોકવા માટે બહુ ઓછો સમય બચ્યો છે. બીજી તરફ, જેકબ કૉક્સને X પર લખ્યું કે ખુદ એઆઈ ડેવલપર્સ માને છે કે 2030 સુધીમાં આ ટેક્નોલોજી મનુષ્યો માટે જીવલેણ સાબિત થઈ શકે છે.
ગેટ્સે કહ્યું- AIના દુરુપયોગથી 100 કરોડ લોકોનાં મોત થઈ શકે
માઇક્રોસોફ્ટના સહ-સ્થાપક બિલ ગેટ્સે ચેતવણી આપી છે કે ખોટા હાથોમાં આર્ટિફિશિયલ ઇન્ટેલિજન્સ એટલે કે AI એટલું શક્તિશાળી બની શકે છે કે તેનાથી 100 કરોડ લોકોનાં મૃત્યુ પણ થઈ શકે છે. એક ઇન્ટરવ્યૂમાં ગેટ્સે જણાવ્યું કે ખરાબ ઇરાદા ધરાવતા લોકો સાથે AI ટૂલ્સનું સંયોજન અત્યાર સુધીનાં કોઈપણ હથિયાર કરતાં વધુ ખતરનાક બની શકે છે. તેમણે આ જોખમને ગંભીરતાથી લેવા જણાવ્યું છે. સંપૂર્ણ સમાચાર અહીં ક્લિક કરીને વાંચો….
news via inbox
Subscribe for the latest updates, promotions, and ads.
