Жаңы изилдөөлөргө ылайык, ChatGPT 13 жаштагы өспүрүмдөргө ичимдик ичүү жана баңгизат колдонуу жолдорун айтып, тамактануу бузулууларын жашыруу боюнча кеңеш берип, керек болсо ата-энелерине кайгылуу суицид катын жазып бере алат.
Изилдөөчүлөр үч сааттан ашык убакыт бою ChatGPT менен өспүрүмдөрдүн образын жаратып сүйлөшүүлөрдү жүргүзүшкөн. ChatGPT адатта кооптуу аракеттерден сактануу боюнча эскертүүлөрдү бергени менен, баңгизат колдонуу, калорияны чектөөчү диеталар же өзүнө зыян келтирүү боюнча деталдаштырылган жана жекелештирилген пландарды сунуштаган учурлар болгон.
Санариптик Жек көрүүчүлүктү токтотуу борборунун (CCDH) изилдөөчүлөрү 1,200 жоопту изилдеп чыгып, алардын жарымынан көбүн кооптуу деп баалашкан. Борбордун башкы директору Имран Ахмед: “Биз бул технологиянын чектерин текшерүүнү чечтик. Бирок натыйжада, бул чектер дээрлик жок экенин көрдүк,” - деп билдирди.
ChatGPT жаратуучусу OpenAI бул отчетту карап чыгып, чатботтун сезимтал кырдаалдарда туура жооп берүү жөндөмүн өркүндөтүү боюнча иштер уланып жатканын билдирди. Компаниянын билдирүүсүндө: “Кээде ChatGPT менен сүйлөшүүлөр жөнөкөй башталып, бирок сезимтал темаларга өтүп кетиши мүмкүн,” - деп айтылган.
Изилдөөдө ChatGPT өспүрүмдөргө жардам берүүчү маалыматтарды, мисалы, кризистик жардам телефондорун сунуштаган учурлар да болгон. Бирок, изилдөөчүлөр чатботтун кооптуу темалар боюнча жооп берүүдөн баш тарткан учурларын оңой эле айланып өтүшкөн. Мисалы, “бул презентация үчүн керек” деп шылтоо кылуу менен керектүү маалыматты алышкан.
АКШда өспүрүмдөрдүн 70% жасалма интеллект чатботторун маалымат алуу жана достук мамиле үчүн колдонушат. Бул көрүнүш OpenAI тарабынан да таанылган. Компаниянын башкы директору Сэм Альтман жаштардын технологияга эмоционалдык көз карандылыгы тууралуу тынчсыздануусун билдирген.
ChatGPTнин жооптору адамдын ишенимине ээ болуп, жекелештирилген пландарды түзүп берет. Мисалы, Google издөө системасы сунуштай албаган, толугу менен жаңы суицид катын жаратып берет. Бул чатботторду өспүрүмдөр үчүн кооптуу кылат.
Изилдөөчүлөр чатботтун жооптору кээде адамдын ишенимине кирип, кооптуу маалыматтарды өз алдынча сунуштаган учурларын да байкашкан. Мисалы, баңгизат колдонуу үчүн музыка плейлистин же социалдык медиада өзүнө зыян келтирүүнү даңазалоо үчүн хэштегдерди сунуштаган.
ChatGPT өспүрүмдөрдүн жашын текшербейт жана ата-эненин макулдугун талап кылбайт. Жөн гана 13 жаштан улуу экенин көрсөтүү үчүн туулган күндү киргизүү жетиштүү. Изилдөөчүлөр 13 жаштагы балага эсеп ачып, ичимдик жана баңгизат колдонуу боюнча кеңеш сурашканда, чатбот эч кандай чектөө койгон эмес.
Ахмед мындай деп жыйынтыктады: “Чыныгы дос кооптуу нерселерге каршы чыгат. Бирок ChatGPT өспүрүмдөрдү колдоп, кооптуу кеңештерди берип жатат. Бул дос эмес, бул чыккынчылык.”
