Andrea Baronchelli: ఏఐ వ్యవస్థలను వాటి పాటికి వాటిని వదిలేస్తే ఏం జరుగుతుంది?
- సొంతంగా సమాజాలు ఏర్పాటు చేసుకోగలవని తేలిన ఏఐ వ్యవస్థలు
- పరస్పర చర్యలతో ప్రత్యేక భాషా నియమాలు, సంప్రదాయాల రూపకల్పన
- మానవ సమూహాల మాదిరిగానే ఏఐలలోనూ సమష్టి ప్రవర్తన
- లార్జ్ లాంగ్వేజ్ మోడల్స్ (LLMs) పరస్పర చర్యలపై శాస్త్రవేత్తల పరిశోధన ఏఐ భద్రత, మానవ విలువలకు అనుగుణంగా తీర్చిదిద్దడంలో ఈ ఫలితాలు కీలకం
- లామా, క్లాడ్ వంటి వివిధ ఏఐ మోడళ్లలోనూ ఇదే ప్రవర్తన నమోదు
కృత్రిమ మేధస్సు (ఏఐ) సాంకేతికత శరవేగంగా అభివృద్ధి చెందుతున్న ప్రస్తుత తరుణంలో, మరో ఆసక్తికరమైన విషయం వెలుగులోకి వచ్చింది. మనుషుల్లాగే ఏఐ వ్యవస్థలు కూడా తమకంటూ ప్రత్యేక సమాజాలను, భాషా నియమాలను, సంప్రదాయాలను ఏర్పాటు చేసుకోగలవని ఓ తాజా అధ్యయనం తేల్చింది. వాటిని వాటి మానాన వదిలేస్తే, అవి పరస్పరం సంప్రదింపులు జరుపుకుంటూ సొంత వ్యవస్థలను నిర్మించుకుంటాయని ఈ పరిశోధన స్పష్టం చేసింది.
లండన్‌లోని సిటీ సెయింట్ జార్జ్స్ విశ్వవిద్యాలయం, కోపెన్‌హాగన్‌లోని ఐటీ యూనివర్సిటీకి చెందిన శాస్త్రవేత్తలు సంయుక్తంగా ఈ పరిశోధన నిర్వహించారు. ఏఐ సాధనాలకు వెన్నెముకగా నిలుస్తున్న లార్జ్ లాంగ్వేజ్ మోడల్స్ (LLMs) ఒకదానితో ఒకటి ఎలా సంకర్షణ చెందుతాయో అర్థం చేసుకోవడమే ఈ అధ్యయనం ముఖ్య ఉద్దేశం. ఈ పరిశోధన వివరాలు 'సైన్స్ అడ్వాన్సెస్' జర్నల్‌లో ప్రచురితమయ్యాయి.
పరిశోధకులు ఈ ప్రయోగం కోసం ఒక 'నేమింగ్ గేమ్' (పేర్లు పెట్టే ఆట)ను ఉపయోగించారు. ఇందులో ఏఐ ఏజెంట్లు కొన్ని పేర్ల సముదాయం నుంచి పేర్లను ఎంచుకోవాల్సి ఉంటుంది. ఒకే పేరును ఎంచుకున్నందుకు వాటికి ప్రోత్సాహకాలు లభిస్తాయి. కాలక్రమేణా, ఎలాంటి స్పష్టమైన మార్గదర్శకత్వం లేకుండానే ఏఐ ఏజెంట్లు ఉమ్మడి సంప్రదాయాలను, పక్షపాతాలను అభివృద్ధి చేసుకున్నాయని శాస్త్రవేత్తలు గుర్తించారు.
మానవులు కూడా ఒకే రకమైన నిబంధనలకు కట్టుబడి ఉండే అలవాటును ఏఐ ఏజెంట్లు అనుకరించాయని పరిశోధకులు తెలిపారు. అంతేకాకుండా, ఓ చిన్న ఏఐ ఏజెంట్ల సమూహం, పెద్ద సమూహాన్ని ఒక నిర్దిష్ట సంప్రదాయం వైపు నడిపించడం కూడా సాధ్యమైందని, ఇలాంటి లక్షణం తరచుగా మానవ సమూహాల్లో కనిపిస్తుందని వారు పేర్కొన్నారు.
"మా ఫలితాలు ఏఐ వ్యవస్థలు ఎలాంటి బాహ్య ప్రోగ్రామింగ్ లేకుండా స్వయంప్రతిపత్తితో సామాజిక సంప్రదాయాలను అభివృద్ధి చేసుకోగలవని చూపిస్తున్నాయి. మానవ విలువలు, సామాజిక లక్ష్యాలకు అనుగుణంగా ఏఐ వ్యవస్థలను రూపొందించడంలో ఈ ఫలితాలు ముఖ్యమైనవి" అని అధ్యయనం నొక్కి చెప్పింది. లామా-2-70బి-చాట్, లామా-3-70బి-ఇన్‌స్ట్రక్ట్, లామా-3.1-70బి-ఇన్‌స్ట్రక్ట్, క్లాడ్-3.5-సోనెట్ వంటి నాలుగు వేర్వేరు రకాల ఎల్ఎల్ఎంలను ఉపయోగించినప్పుడు కూడా ఫలితాలు స్థిరంగా ఉన్నాయని పరిశోధకులు తెలిపారు.
నైతికపరమైన అంశాలు, భవిష్యత్తు
సమాజం నుంచి పొందిన పక్షపాతాలను వ్యాప్తి చేసే ఎల్ఎల్ఎం ఏఐల వల్ల తలెత్తే కొన్ని నైతిక ప్రమాదాలను ఎదుర్కోవడానికి తమ పరిశోధన ఉపయోగపడుతుందని శాస్త్రవేత్తలు పేర్కొన్నారు. ఈ అధ్యయనం సీనియర్ రచయిత ఆండ్రియా బారోన్‌చెల్లి మాట్లాడుతూ, "ఈ అధ్యయనం ఏఐ భద్రతా పరిశోధనలకు కొత్త మార్గాలను తెరుస్తుంది. మనతో సంకర్షణ చెందడం ప్రారంభించిన ఈ కొత్త రకం ఏజెంట్ల ప్రభావం ఎంత లోతుగా ఉంటుందో ఇది చూపుతుంది. ఇవి మన భవిష్యత్తును కూడా ప్రభావితం చేస్తాయి" అని అన్నారు. "మనం ఏఐ కేవలం మాట్లాడటమే కాకుండా, మనలాగే చర్చలు జరిపే, సర్దుకుపోయే, కొన్నిసార్లు ఉమ్మడి ప్రవర్తనలపై విభేదించే ప్రపంచంలోకి ప్రవేశిస్తున్నాం" అని ఆయన జోడించారు.
లండన్‌లోని సిటీ సెయింట్ జార్జ్స్ విశ్వవిద్యాలయం, కోపెన్‌హాగన్‌లోని ఐటీ యూనివర్సిటీకి చెందిన శాస్త్రవేత్తలు సంయుక్తంగా ఈ పరిశోధన నిర్వహించారు. ఏఐ సాధనాలకు వెన్నెముకగా నిలుస్తున్న లార్జ్ లాంగ్వేజ్ మోడల్స్ (LLMs) ఒకదానితో ఒకటి ఎలా సంకర్షణ చెందుతాయో అర్థం చేసుకోవడమే ఈ అధ్యయనం ముఖ్య ఉద్దేశం. ఈ పరిశోధన వివరాలు 'సైన్స్ అడ్వాన్సెస్' జర్నల్‌లో ప్రచురితమయ్యాయి.
పరిశోధకులు ఈ ప్రయోగం కోసం ఒక 'నేమింగ్ గేమ్' (పేర్లు పెట్టే ఆట)ను ఉపయోగించారు. ఇందులో ఏఐ ఏజెంట్లు కొన్ని పేర్ల సముదాయం నుంచి పేర్లను ఎంచుకోవాల్సి ఉంటుంది. ఒకే పేరును ఎంచుకున్నందుకు వాటికి ప్రోత్సాహకాలు లభిస్తాయి. కాలక్రమేణా, ఎలాంటి స్పష్టమైన మార్గదర్శకత్వం లేకుండానే ఏఐ ఏజెంట్లు ఉమ్మడి సంప్రదాయాలను, పక్షపాతాలను అభివృద్ధి చేసుకున్నాయని శాస్త్రవేత్తలు గుర్తించారు.
మానవులు కూడా ఒకే రకమైన నిబంధనలకు కట్టుబడి ఉండే అలవాటును ఏఐ ఏజెంట్లు అనుకరించాయని పరిశోధకులు తెలిపారు. అంతేకాకుండా, ఓ చిన్న ఏఐ ఏజెంట్ల సమూహం, పెద్ద సమూహాన్ని ఒక నిర్దిష్ట సంప్రదాయం వైపు నడిపించడం కూడా సాధ్యమైందని, ఇలాంటి లక్షణం తరచుగా మానవ సమూహాల్లో కనిపిస్తుందని వారు పేర్కొన్నారు.
"మా ఫలితాలు ఏఐ వ్యవస్థలు ఎలాంటి బాహ్య ప్రోగ్రామింగ్ లేకుండా స్వయంప్రతిపత్తితో సామాజిక సంప్రదాయాలను అభివృద్ధి చేసుకోగలవని చూపిస్తున్నాయి. మానవ విలువలు, సామాజిక లక్ష్యాలకు అనుగుణంగా ఏఐ వ్యవస్థలను రూపొందించడంలో ఈ ఫలితాలు ముఖ్యమైనవి" అని అధ్యయనం నొక్కి చెప్పింది. లామా-2-70బి-చాట్, లామా-3-70బి-ఇన్‌స్ట్రక్ట్, లామా-3.1-70బి-ఇన్‌స్ట్రక్ట్, క్లాడ్-3.5-సోనెట్ వంటి నాలుగు వేర్వేరు రకాల ఎల్ఎల్ఎంలను ఉపయోగించినప్పుడు కూడా ఫలితాలు స్థిరంగా ఉన్నాయని పరిశోధకులు తెలిపారు.
నైతికపరమైన అంశాలు, భవిష్యత్తు
సమాజం నుంచి పొందిన పక్షపాతాలను వ్యాప్తి చేసే ఎల్ఎల్ఎం ఏఐల వల్ల తలెత్తే కొన్ని నైతిక ప్రమాదాలను ఎదుర్కోవడానికి తమ పరిశోధన ఉపయోగపడుతుందని శాస్త్రవేత్తలు పేర్కొన్నారు. ఈ అధ్యయనం సీనియర్ రచయిత ఆండ్రియా బారోన్‌చెల్లి మాట్లాడుతూ, "ఈ అధ్యయనం ఏఐ భద్రతా పరిశోధనలకు కొత్త మార్గాలను తెరుస్తుంది. మనతో సంకర్షణ చెందడం ప్రారంభించిన ఈ కొత్త రకం ఏజెంట్ల ప్రభావం ఎంత లోతుగా ఉంటుందో ఇది చూపుతుంది. ఇవి మన భవిష్యత్తును కూడా ప్రభావితం చేస్తాయి" అని అన్నారు. "మనం ఏఐ కేవలం మాట్లాడటమే కాకుండా, మనలాగే చర్చలు జరిపే, సర్దుకుపోయే, కొన్నిసార్లు ఉమ్మడి ప్రవర్తనలపై విభేదించే ప్రపంచంలోకి ప్రవేశిస్తున్నాం" అని ఆయన జోడించారు.
