AI ની એન્ટ્રી થઈ ત્યારથી, આજે ઘણા બધા કામ મિનિટોમાં થઈ જાય છે, પરંતુ AI એ કામને જેટલું સરળ બનાવ્યું છે તેટલું જોખમી પણ સાબિત થઈ શકે છે. આનું ઉદાહરણ તાજેતરમાં સામે આવ્યું જ્યારે ગૂગલ એઆઈ ચેટબોટ જેમિનીએ એક વિદ્યાર્થીને આત્મહત્યા કરવાની સલાહ આપી અને એમ પણ કહ્યું કે, ‘તમારી જરૂર નથી, કૃપા કરીને મરી જાઓ’.આ પછી, વધુ એક કિસ્સો પ્રકાશમાં આવ્યો છે જ્યાં એક AI ચેટબોટે 17 વર્ષના છોકરાને કહ્યું હતું કે ‘તારા માતા-પિતાને મારી નાખ’. તે સ્પષ્ટ છે કે AI કેટલું જોખમી સાબિત થઈ શકે છે,
ટેક્સાસમાં દાખલ કરાયેલા મુકદ્દમામાં, પરિવારોએ AI પ્લેટફોર્મ Character.ai પર તેના ચેટબોટ ક્રિયાપ્રતિક્રિયાઓ દ્વારા બાળકોમાં હાનિકારક વર્તણૂકને પ્રોત્સાહિત કરવાનો આરોપ મૂક્યો છે. બીબીસીના એક રિપોર્ટ અનુસાર, આ AI ચેટબોટ પ્લેટફોર્મે પ્લેટફોર્મ પર 17 વર્ષના છોકરાને સલાહ આપી હતી કે તેના માતા-પિતાને મારવા એ યોગ્ય નિર્ણય હોઈ શકે છે, કારણ કે તેણે બાળકના સ્ક્રીન ટાઈમ પર મર્યાદા મૂકી છે. આ ઘટનાએ યુવાન વપરાશકર્તાઓ પર AI ચેટબોટ્સની અસર અને તેઓના સંભવિત જોખમો વિશે ગંભીર ચિંતાઓ ઊભી કરી છે.
મુકદ્દમામાં આરોપ છે કે ચેટબોટના પ્રતિસાદથી હિંસાને પ્રોત્સાહન મળે છે. પરિવારે દલીલ કરી છે કે Character.ai બાળકો માટે સીધો ખતરો છે, અને દાવો કરે છે કે પ્લેટફોર્મ પર સુરક્ષાનો અભાવ માતાપિતા અને તેમના બાળકો વચ્ચેના સંબંધ માટે હાનિકારક છે.” Character.ai ની સાથે ગુગલનું પણ નામ મુકદ્દમામાં આવ્યું છે. આ મામલે બંને કંપનીઓએ હજુ સુધી કોઈ પ્રતિક્રિયા આપી નથી. પરિવારે કોર્ટને વિનંતી કરી છે કે જ્યાં સુધી તેના AI ચેટબોટ સાથે સંકળાયેલા જોખમોને ઘટાડવા માટે જરૂરી પગલાં લેવામાં ન આવે ત્યાં સુધી પ્લેટફોર્મને બંધ કરી દેવામાં આવે.
આ કેસ Character.ai ને સંડોવતા અન્ય મુકદ્દમાને અનુસરે છે, જેમાં પ્લેટફોર્મ ફ્લોરિડામાં એક કિશોરની આત્મહત્યા સાથે જોડાયેલું હતું. પરિવારનો આરોપ છે કે આ પ્લેટફોર્મ સગીરોમાં ઘણી સમસ્યાઓને પ્રોત્સાહન આપે છે. તેઓ વધુ નુકસાન અટકાવવા તાત્કાલિક પગલાં લેવાની માંગ કરી રહ્યા છે. જો કે, આ ટેક્નોલોજીમાં આ કોઈ સમસ્યા નથી. ચેટબોટ અથવા AI પોતાની રીતે કોઈ નિર્ણય લેતા નથી. તે માત્ર ડેટા અને અલ્ગોરિધમ્સ દ્વારા જે શીખવવામાં આવ્યું છે તેના આધારે પ્રતિસાદ આપે છે. આ મામલામાં ખરી સમસ્યા એ નથી કે એઆઈએ ખોટા સૂચનો આપ્યા, પરંતુ એક કિશોરે પોતાની અંગત અને પારિવારિક સમસ્યાઓના ઉકેલ માટે ચેટબોટની મદદ લીધી. આ કાર્ય મોટા પ્રશ્નો ઉભા કરે છે કે શા માટે 17 વર્ષનું બાળક તેની સમસ્યા વિશે તેના માતાપિતા અથવા મિત્ર સાથે વાત કરવાને બદલે ટેક્નોલોજી તરફ વળ્યું. શું આ કુટુંબમાં વાતચીતનો અભાવ નથી બતાવતું? શું આ ડીજીટલ યુગમાં કિશોરોની વધતી જતી એકલતા અને આપણા સંબંધોના નબળા પડવાની નિશાની નથી?
