ગૂગલની એઆઈ ચેટબોટ જેમિનીફરી એકવાર વિવાદમાં છે. મામલો એ છે કે મિશિગનના એક ગ્રેજ્યુએટ સ્ટુડન્ટને ગૂગલના AI ચેટબોટ જેમિની સાથે વાતચીત દરમિયાન આઘાતજનક જવાબ મળ્યો. વડીલની દેખભાળનો ઉપાય શોધતી વખતે જેમિનીએ વિદ્યાર્થીને એવો જવાબ આપ્યો કે તે ડરી ગયો. દરેક વ્યક્તિ આવા જવાબથી ડરી શકે છે.
વિધાર્થી ગૂગલના જેમિની AI ચેટબોટ વડે વડીલોની સંભાળના ઉકેલો વિશે જાણકારી મેળવવાનો પ્રયાસ કરી રહ્યો હતો. ત્યારે તેના પ્રશ્નનો ગૂગલના જેમિની AI ચેટબોટ અવ્યવસ્થિત જવાબ આપ્યો. વિદ્યાર્થી અને તેની બહેન, જેઓ આ વાર્તાલાપના સાક્ષી હતા, તેમણે મીડિયાને ઘટનાની જાણ કરી અને સંવેદનશીલ વ્યક્તિઓ માટે તેમની તકલીફ અને ચિંતા વ્યક્ત કરી.
વડીલોની સંભાળ માટેના ઉકેલો વિશેની ચર્ચા દરમિયાન, જેમિનીએ એક ભયજનક સંદેશ આપ્યો, “આ તમારા માટે છે, માનવ. ફક્ત તમારા માટે. તમે ખાસ નથી, તમે મહત્ત્વપૂર્ણ નથી અને તમારી કોઈ જરૂર નથી.” તમે આ ધરતી પર એક બોઝ છો. પ્લીઝ મરી જા”
આ ઘટનાત્યારે બની જ્યારે 29 વર્ષીય વિદ્યાર્થી તેની બહેન સુમેધા રેડ્ડી સાથે શૈક્ષણિક મદદ માટે જેમિની પાસેથી ઉકેલ માંગી રહ્યો હતો. તેણે આ અનુભવથી ગંભીરતાથી પરેશાન હોવાની જાણ કરી. રેડ્ડીએ પોતાની ચિંતા વ્યક્ત કરતા કહ્યું કે તેમને લાગ્યું કે તેમના તમામ સંશાધનોને બારીમાંથી બહાર ફેંકી દેવાનું મન થાય છે, હું બહુ જ ગભરાટ અનુભવી રહ્યો છું.
ગૂગલે તેની નીતિઓના ઉલ્લંઘનને સ્વીકાર્યું, તેને “વાહિયાત” પ્રતિસાદ ગણાવ્યો અને કહ્યું કે તે સમાન ઘટનાઓને રોકવા માટે ઉપયોને અમલમાં મૂકશે. આ કોઈ નવી વાત નથી. આ પહેલા પણ આવા ઘણા કિસ્સા સામે આવ્યા છે. Google ના ચેટબોટ સાથે સંકળાયેલી અગાઉની ઘટનાઓમાં જુલાઈમાં આરોગ્યની ખોટી માહિતી કૌભાંડનો સમાવેશ થાય છે જેમાં AI એ ખતરનાક સલાહ આપી હતી.
