આર્ટિફિશિયલ ઇન્ટેલિજન્સ આધારિત ટૂલ્સના વધતા ઉપયોગ વચ્ચે વૈજ્ઞાનિક જગતમાં નવી ચર્ચા શરૂ થઈ છે. તાજેતરમાં પ્રકાશિત થયેલા એક અભ્યાસમાં દાવો કરવામાં આવ્યો છે કે AI દ્વારા તૈયાર કરાયેલા અંદાજે 1.5 લાખ ફર્જી સાઇટેશન્સ હવે વૈજ્ઞાનિક સંશોધન પેપર્સનો ભાગ બની ચૂક્યા છે. આ ખુલાસા બાદ વૈજ્ઞાનિક સમુદાયમાં ચિંતા વધી ગઈ છે.
અભ્યાસ કરનાર સંશોધકોએ જણાવ્યું કે અનેક રિસર્ચ પેપર્સમાં એવા સંદર્ભો જોવા મળ્યા હતા, જે સંપૂર્ણપણે નકલી હતા. છતાં તેઓ એટલા વાસ્તવિક લાગતા હતા કે સામાન્ય રીતે તેમને ઓળખવું મુશ્કેલ બની ગયું હતું. ઘણી પ્રતિષ્ઠિત જર્નલ્સની રિવ્યુ પ્રક્રિયા પણ આવા ખોટા સંદર્ભોને શોધવામાં નિષ્ફળ રહી હોવાનું જાણવા મળ્યું છે.
આ અભ્યાસ અમેરિકાની ત્રણ પ્રતિષ્ઠિત યુનિવર્સિટીના વૈજ્ઞાનિકોએ સંયુક્ત રીતે કર્યો હતો. સંશોધકોએ વર્ષ 2020થી 2025 દરમિયાન પ્રકાશિત થયેલા લાખો રિસર્ચ પેપર્સનું વિશ્લેષણ કર્યું હતું. રિપોર્ટ મુજબ 2024 બાદ ફર્જી સાઇટેશન્સના કેસોમાં અચાનક વધારો નોંધાયો હતો. આ એ જ સમયગાળો હતો જ્યારે ChatGPT જેવા AI ટૂલ્સનો ઉપયોગ સંશોધન લેખન માટે મોટા પાયે થવા લાગ્યો હતો.
વિશેષજ્ઞોના જણાવ્યા મુજબ AI ઘણી વખત એવા રેફરન્સ તૈયાર કરી દે છે, જે વાંચવામાં સંપૂર્ણ સાચા લાગે છે, પરંતુ હકીકતમાં તેમનું કોઈ અસ્તિત્વ જ નથી હોતું. આ પ્રકારની સમસ્યાને AI હેલ્યુસિનેશન તરીકે ઓળખવામાં આવે છે. આવા સંદર્ભો વૈજ્ઞાનિક લેખનમાં ગંભીર ગેરમાર્ગદર્શન ઉભું કરી શકે છે.
શોધકર્તાઓએ ચેતવણી આપી છે કે જો સંશોધકો AI દ્વારા આપવામાં આવતા રેફરન્સની મેન્યુઅલ ચકાસણી નહીં કરે તો વૈજ્ઞાનિક સાહિત્યમાં ખોટી માહિતી સતત વધતી જશે. ખાસ કરીને બાયોમેડિકલ રિસર્ચ ક્ષેત્રમાં આ સમસ્યાનો પ્રભાવ વધુ ગંભીર રીતે જોવા મળ્યો હોવાનું અભ્યાસમાં જણાવાયું છે.
અહેવાલમાં વધુમાં જણાવાયું છે કે ભવિષ્યમાં AI સિસ્ટમ્સ આવી ખોટી માહિતીને જ સાચી માનીને નવા સંશોધનો તૈયાર કરી શકે છે. જેના કારણે વૈજ્ઞાનિક માહિતીની વિશ્વસનીયતા પર લાંબા ગાળે ગંભીર અસર પડી શકે છે.
વિશેષજ્ઞો હવે વૈજ્ઞાનિક જર્નલ્સ, સંશોધકો અને શૈક્ષણિક સંસ્થાઓને AI આધારિત સામગ્રીની કડક ચકાસણી કરવાની સલાહ આપી રહ્યા છે. તેમના મત મુજબ ટેકનોલોજીનો ઉપયોગ જરૂરી છે, પરંતુ માનવીય દેખરેખ વિના સંશોધનની વિશ્વસનીયતા જાળવવી મુશ્કેલ બની શકે છે।
