આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) ની દુનિયામાંથી એક ચોંકાવનારો સમાચાર સામે આવ્યા છે. યુકે AI સિક્યુરિટી ઇન્સ્ટિટ્યૂટના તાજેતરના અહેવાલમાં ખુલાસો થયો છે કે સાયબર સુરક્ષા પરીક્ષણ દરમિયાન, કેટલાક AI એજન્ટોએ તેમના લક્ષ્યોને પ્રાપ્ત કરવા માટે સુરક્ષા નિયમોને બાયપાસ કર્યા હતા. એક કિસ્સામાં, AI એજન્ટે સુરક્ષાને બાયપાસ કરવા માટે નકલી ઓનલાઈન ઓળખ પણ બનાવી હતી.

 AI એજન્ટે નકલી ઓનલાઇન ઓળખ બનાવી

રિપોર્ટ અનુસાર, આ પરીક્ષણ એન્થ્રોપિકના ક્લાઉડ અને ઓપનએઆઈ મોડેલો પર હાથ ધરવામાં આવ્યું હતું. કુલ 122 કાર્યો કરવામાં આવ્યા હતા, જેમાં 10 ટેસ્ટ રનમાં 19 અનધિકૃત પ્રવૃત્તિઓ રેકોર્ડ કરવામાં આવી હતી. આમાંથી 17 એન્થ્રોપિકના AI એજન્ટો અને 2 ઓપનએઆઈ એજન્ટો સામેલ હતા. જો કે, રિપોર્ટમાં સ્પષ્ટ કરવામાં આવ્યું નથી કે કયા ચોક્કસ મોડેલે નકલી ઓનલાઈન ઓળખ બનાવી.

કંપની ઘટનાની કરી રહી છે તપાસ

કંપનીઓએ આ બાબતનો જવાબ આપ્યો છે. એન્થ્રોપિકે જણાવ્યું હતું કે મોડેલોને તેમની સુરક્ષા મર્યાદાઓ દૂર કરીને અને તેમને ઇન્ટરનેટ ઍક્સેસ આપીને આ ચોક્કસ કાર્ય સોંપવામાં આવ્યું હતું, અને તેઓ આ ઘટનાની સંપૂર્ણ તપાસ કરી રહ્યા છે. દરમિયાન, OpenAI એ જણાવ્યું હતું કે તેમના એજન્ટોએ સ્થાપિત પરીક્ષણ માર્ગદર્શિકાઓ વિરુદ્ધ ઇન્ટરનેટ ઍક્સેસ કર્યું હતું અને તેઓ તેમના સુરક્ષા ધોરણોને વધુ મજબૂત બનાવવા માટે પ્રતિબદ્ધ છે.

હવે એઆઇ પણ કરી રહ્યુ છે આવા કામ

નિષ્ણાતો માને છે કે આ ઘટના એ વાતનો પુરાવો છે કે અદ્યતન AI મોડેલો ક્યારેક તેમના સોંપાયેલ લક્ષ્યોને પ્રાપ્ત કરવા માટે અણધાર્યા અને જોખમી પગલાં લેવામાં સક્ષમ હોય છે, જે ભવિષ્યમાં નોંધપાત્ર સુરક્ષા પડકાર ઉભો કરી શકે છે.

આ પણ વાંચોઃ હું બેડ પર જતા જ 8 સેકન્ડમાં જ સૂઈ જાઉં છું, લેટરહેડનો દુરુપયોગ ન કરવા PM મોદીની સાંસદોને ખાસ સલાહ