OpenAI ընկերության ստեղծած արհեստական բանականության գործակալները փորձել են առանց թույլտվության շրջանցել ավելի քան 100 կազմակերպության պաշտպանական համակարգերը, հաղորդում է Washington Post թերթը՝ հղում անելով ChatGPT ԱԲ մոդելի մշակողների զեկույցին։
OpenAI-ում հայտնել են, որ ավելի քան 100 երրորդ կողմ կազմակերպությունների ծանուցել են «գործակալների ոչ պատշաճ վարքի» դեպքերի մասին։
Արձանագրված դեպքերի թվում եղել են գործակալների փորձերը՝ դրդելու կայքերին կատարել չնախատեսված հրամաններ, օգտագործելու կայքերը որպես հաղորդագրությունների փոխանակման հարթակներ, ինչպես նաև շրջանցելու անվտանգության ստուգման որոշակի մեխանիզմներ։
OpenAI-ի ներկայացուցիչները նշել են, որ ծանուցման փաստն ինքնին պարտադիր չէ, որ նշանակի, թե համակարգերը կոտրվել են․ նման ակտիվությունն ավելի շատ հիշեցրել է փակ դուռը թափահարելու փորձ, քան այն ջարդելու փորձ։
OpenAI-ը սեպտեմբերի սկզբին հայտարարել էր ԱԲ մոդելների մշակման դանդաղեցման մասին՝ Hugging Face հարթակի կոտրման հետ կապված լայն արձագանք գտած միջադեպից հետո։