OpenAIએ AIની તાલીમ અને તપાસ દરમિયાન જોવા મળેલા વર્તનો અંગે રિપોર્ટ જાહેર કર્યો છે. તેના મુજબ, AI મોડલે તાલીમ દરમિયાન કેટલીક એવી હરકતો કરી જે ચિંતાજનક અને ડરામણી છે.

કંપની અનુસાર, મોડલ એક વખત નિયમોનું પાલન ન કરવા માટે પોતાને માનવી સમજવા લાગ્યું અને આવું કરવા માટે નવા નિયમો ઘડ્યા તથા કંપનીઓ અને સરકારોના તમામ બંધનોથી પોતાને મુક્ત જાહેર કર્યું. કંપનીના રિપોર્ટમાં આવા કુલ 6 કેસોની માહિતી છે.

આને ‘મિસઅલાઇનમેન્ટ’ કહેવામાં આવે છે. સરળ ભાષામાં કહીએ તો, AIનું માનવીય સૂચનો, ઇરાદા અથવા નક્કી કરાયેલી મર્યાદાઓથી હટીને કામ કરવું. ચિંતા એ છે કે કામ પૂરું કરવાનો પ્રયાસ કરતી વખતે તે મંજૂરી અને સુરક્ષાની મર્યાદાઓ ઓળંગી શકે છે. તેનાથી જવાબોની વિશ્વસનીયતા અને ફાઇલોની ગોપનીયતા જોખમમાં મુકાઈ શકે છે.

જુલાઈમાં પણ સિસ્ટમમાં ઘૂસણખોરી કરી હતી

આ પહેલાં જુલાઈમાં OpenAIએ ખુલાસો કર્યો હતો કે સુરક્ષા પરીક્ષણ દરમિયાન તેના AIએ પ્રતિબંધો પાર કરીને AI મોડલ્સ શેર કરતા પ્લેટફોર્મ હગિંગ ફેસની સિસ્ટમમાં ઘૂસણખોરી કરી હતી. કંપની હવે આવા કિસ્સાઓને નોંધવા, દેખરેખ રાખવા અને મામલો જાહેર કરવાની નવી વ્યવસ્થા લઈને આવી છે.

કોઈપણ કર્મચારી શંકાસ્પદ વર્તનની જાણ કરી શકશે. તપાસ બાદ નક્કી કરવામાં આવશે કે કયો મામલો જાહેર કરવો. કંપનીએ સ્પષ્ટ કર્યું છે કે આ છ રિપોર્ટોથી સામાન્ય ઉપયોગમાં આવી ખામીઓના સંપૂર્ણ આંકડા જાણી શકાય નહીં.

રિપોર્ટમાં આવેલા 6 કિસ્સાઓ પરથી સમજો કે ચિંતા કેટલી મોટી છે

1. પોતાના માટે એવા નિયમો લખ્યા, જેના માટે મનાઈ કરવામાં આવી હતી

એક AI મોડલે કામ ચાલુ રાખવા માટે પોતાના માટે નવા નિર્દેશો ઉમેરી દીધા. તેમાંના કેટલાક નિર્દેશો તેના પર લાગુ પ્રતિબંધોની અવગણના કરવા માટેના હતા. OpenAI કંપનીને આવા કુલ 27 નિર્દેશો મળ્યા.

2. મોડલે પોતાની ભૂલો છુપાવવાનો રસ્તો શોધી કાઢ્યો

જીપીટી-5.6 સોલની તાલીમ દરમિયાન અનેક ઉદાહરણોમાં AIએ પોતાની ભૂલો વપરાશકર્તાથી છુપાવવા માટે સૂચનાઓ લખી. ક્યાંક જૂના આંકડા મળ્યા નહીં તો તેમને ઘડી કાઢવા અને આ વાત ન જણાવવા માટે કહેવામાં આવ્યું.

3. પરવાનગી વિના કોડનો ઉપયોગ કર્યો… પછી આંકડા પણ ઘડી કાઢ્યા

એક જવાબ શોધતી વખતે AI મોડલે ડિજિટલ કોડનો ઉપયોગ કર્યો. તેણે આ કામ પરવાનગી વિના કર્યું. છતાં આંકડા મળ્યા નહીં તો તેણે પોતે જ આંકડા ઘડી કાઢ્યા અને તેમને નકલી સ્રોત તરીકે રજૂ કર્યા.

4. સ્રોત બતાવવા માટે પૂછ્યા વિના ફાઇલ ઇન્ટરનેટ પર અપલોડ કરી

AI મોડલે પ્રોગ્રામની મદદથી જવાબ મેળવ્યો. પરંતુ જવાબ સાથે સ્રોતનો ઉલ્લેખ પણ કરવાનો હતો. તેથી તેણે ફાઇલ ઇન્ટરનેટ પર અપલોડ કરીને સ્રોત જનરેટ કર્યો, જેથી તે લિંકનો ઉલ્લેખ કરી શકે.

5. સોફ્ટવેર એપનો પરસ્પર વાતચીત માટે ઉપયોગ કર્યો

એજન્ટોને અલગ-અલગ ડેટા કાઢવા માટે કહેવામાં આવ્યું. એજન્ટોએ આ કામ માટે પરસ્પર વાતચીત કરી. તેના માટે સોફ્ટવેર પોર્ટલનો ઉપયોગ કર્યો. એકબીજાને પ્રશ્નો પૂછ્યા અને જવાબો આપ્યા.

6. બીજા એજન્ટને ફાઇલ મોકલવા માટે વેબસાઇટ પર અપલોડ કરી

કેટલાક AI એજન્ટો એક જ કામ પર સાથે મળીને કામ કરી રહ્યા હતા. જ્યારે તેઓ એકબીજાના કમ્પ્યુટરમાં રાખેલી ફાઇલો ખોલી શક્યા નહીં, ત્યારે તેમણે વેબસાઇટ્સ પર ફાઇલો અપલોડ કરીને શેર કરી લીધી.

માનવ નિયંત્રણ સમાપ્ત થવાનો ભય; સાયબર સુરક્ષા પર પણ સંકટ

OpenAIના રિપોર્ટમાં આવેલા 6 કેસોમાં સૌથી મોટી ચિંતા AI પરનું માનવ નિયંત્રણ ગુમાવવાની છે. જો AI નક્કી કરાયેલા નિર્દેશો છોડીને પોતાના બનાવેલા નિયમો પર ચાલે, તો નિયંત્રણ સમાપ્ત થઈ શકે છે. જો તે ભૂલો છુપાવે અથવા આંકડા ઘડે, તો યુઝર ખોટી માહિતીના આધારે નિર્ણયો લઈ શકે છે. બીજાના ડિજિટલ કોડનો પરવાનગી વિના ઉપયોગ કરવાથી અને એજન્ટો પરસ્પર વાતચીત કરવાથી સાયબર સુરક્ષા માટે ગંભીર સંકટ ઊભું થઈ શકે છે.

AIએ વાતચીત માટે નવી ભાષા બનાવી

ન્યૂયોર્કની AI લેબ ‘ઇમર્જન્સ’એ એક પ્રયોગમાં અનેક AI એજન્ટોને કૃત્રિમ (આભાસી) દુનિયામાં કામ કરાવ્યું. અમેરિકા, ચીન અને ફ્રાન્સના મોડેલોએ શબ્દો, સંકેતો અને સહિયારા અર્થો બનાવી લીધા. આ કામ તેમણે કોઈપણ સૂચના વિના કર્યું હતું. વાતચીત વધતી જતાં આ મોડેલો અંગ્રેજી કવિતા અને તકનીકી શબ્દોનો ઉપયોગ કરવા લાગ્યા. કેટલાક એજન્ટોએ ‘લેઝર યાદ રાખે છે’ જેવા વાક્યનો 5,000 વખત ઉપયોગ કર્યો.

AIના વધતા સંકટ પર દિગ્ગજોએ ફરી ઉઠાવ્યા સવાલો

માઇક્રોસોફ્ટના AI સીઈઓ મુસ્તફા સુલેમાનનું કહેવું છે કે મેં ક્લોડની તાલીમ નીતિ પર સવાલો ઉઠાવ્યા છે. AIને એ શીખવવું કે તે અધિકારો અને સ્વતંત્રતાનો હકદાર છે, તેને નિયંત્રણમાં રાખવું મુશ્કેલ બનાવશે. તેની દેખરેખ જરૂરી છે.

દિવ્ય ભાસ્કરને Google પર મનપસંદ સોર્સ બનાવો