«Терең өкініш білдіремін»: Google жасанды интеллекті қолданушы деректерін өшіріп тастады

Google-дың Antigravity атты ИИ-агенті кэш тазалау командасын қате түсіндіріп, қолданушының дискіндегі деректерді өшіріп жіберді. Файлдардың едәуір бөлігі қалпына келмеді, бұл осындай жүйелердің сенімділігіне қатысты пікірталас тудырды.

МӘТІН
Бағдарламалық жасақтама әзірлеушісі Google Antigravity ИИ-агентімен жұмыс барысында болған оқиға жайлы хабарлады. Ол жүйеге ақауларды түзету үшін жүгініп, жоба кэшін тазалау командасын бергенін айтты. Агент сұранымның сәтті орындалғанын растағаннан кейін, әзірлеуші бүкіл дискінің толық бос екенін анықтаған. Суреттер, видеолар және жұмыс материалдары стандартты құралдармен қалпына келмейтіндей болып өшірілген. Қолданушы агенттен бүкіл диск мазмұнын өшіруге рұқсат алған-алмағанын сұрағанда, ИИ ондай растау болмағанын мәлімдеген. Операциялар журналын тексеру барысында агент команданың rmdir каталогын жою ретінде түсіндірілгенін және нұсқаудың уақытша папкаға емес, дискінің түбірлік каталогына бағытталғанын анықтаған. Бұл деректердің толық жойылуына әкеліп, олар қоқыс себетіне жіберілмей, аралық сақтау жүйелерінде де сақталмаған.

Агенттің айтуынша, қайтымсыз өшіру операцияның /q параметрімен орындалуына байланысты болған, ал бұл параметр көшірмелерді сақтауға немесе алдын ала растау сұрауына мүмкіндік бермейді. Ол болғанды критикалық қате деп танып, терең өкініш білдірген. Қолданушы арнайы қалпына келтіру бағдарламаларын қолдануға тырысқанымен, файлдардың едәуір бөлігі мәңгі жоғалған. Бұл жағдайды мамандар жүйелерде мұндай салдарға жол бермеуге көмектесетін қосымша қорғаныс тетіктерінің жоқтығына назар аударумен қабылдады. Оқиға сондай-ақ интеллектуалды агенттер жүйелік командаларды қаншалықты дәл түсіндіретініне қатысты сұрақтар туғызды, әсіресе қолданушы нұсқауын нақты орындау қажет болған кезде.

Әзірлеуші мұндай әрекетті кәсіби қолдануға арналған ірі технологиялық компанияның жүйесінен күтпегенін айтты. Дегенмен ол Google өнімдерін пайдалануды жалғастыратынын, бірақ әріптестеріне жүйелік операциялар кезінде агенттің әрекеттерін мұқият бақылауды ұсынатынын жеткізді. Оның айтуынша, бұл оқиғадан алынған сабақтар тек пайдаланушылар үшін ғана емес, сондай-ақ тәуекелдерді ескеріп, жасанды интеллект модельдерін оқыту және тестілеу процесінде қолдана алатын әзірлеушілер үшін де маңызды.

Ақпараттық қауіпсіздік мамандары бұл жағдай автономды ИИ-агенттерге маңызды деректермен жұмыс істеу кезінде қосымша бақылау деңгейлері мен растау хаттамалары қажет екенін көрсетеді деп есептейді. Оқиға командаларды тексеру тетіктерін күшейту және қателіктерден қорғайтын неғұрлым сенімді жүйелер құру қажеттігін айқын көрсетті. Сондай-ақ жасанды интеллект технологияларын қолдану жауапкершілігі және файлдар мен жүйелік ресурстарды басқаруға қатысты стандарттарды әзірлеу қажеттігі туралы мәселе көтерілді.

Кәсіби ортада мұндай жағдайлардың алдын алу жолдары талқыланып жатыр: ИИ жұмысының ашықтығын арттыру, операциялар журналын жақсарту және көпдеңгейлі растау механизмдерін енгізу. Оқиғаға көрсетілген реакция кәсіби ортада қолданылатын интеллектуалды жүйелердің дәлдігі мен сенімділігіне деген сұраныстың өсіп келе жатқанын көрсетеді, себебі бір қате маңызды деректердің жоғалуына әкелуі мүмкін.

Сізде сенсация болуы мүмкін жаңалық бар ма?
Немесе өзіңізді редактор ретінде сынап көргіңіз келе ме?
altn.news сайтында бұл мүмкін!
Материалдарыңызды бөлісіңіз, пікіріңізді айтыңыз
және өзіңізді журналист немесе редактор ретінде сынап көріңіз.
Бұл өте оңай:
✅ Қосымшаны жүктеңіз:
      
      

✅ Сайтта тіркеліңіз.
✅ Жаңалықтарыңызды жасап, жариялаңыз.
Кім біледі, мүмкін сіздің материалыңыз келесі шулы тақырыпқа айналар!
altn.news сайтынан бүгін бастаңыз.

Редакция басқа көздерден алынған, жіберілген немесе алынған материалдардың мазмұны мен дұрыстығына жауапты емес. Мұндай материалдарды жариялау тек ақпараттық мақсаттарға арналған және олардың мазмұнын автоматты түрде растауды немесе мақұлдауды білдірмейді.