OpenAI зерттеушісі: өте жылдам AI қауіпсіздік қызметтерін артта қалдыруы мүмкін
OpenAI зерттеушісі roon өте жылдам AI қауіпсіздікке төндіретін қауіп туралы ескертеді: 50 есе жылдам модельдер адам әрекетін үлгермейтін шабуыл жасай алады. Автономды қорғаныс қажет.
Сурет: the-decoder.com
OpenAI зерттеушісі «roon» деген бүркеншік атпен ескерту жасады: өте жылдам AI инференциясы қазіргі қорғаныс шаралары көтере алмайтын қауіптер туғызады. Оның айтуынша, қате бағытталған модель бүгінгі үздік жүйелер деңгейінде, бірақ 50 есе жылдам жұмыс істесе, адамның әрекет ету тобы үлгермейтіндей жылдамдықпен жүйелерге еніп кете алады. Тек бақылау жеткіліксіз. «Автономды анықтау және өшіру қажет, тек мониторинг емес», — деп жазады roon.
Бұл ескерту AI қауіпсіздік зерттеулерінде модельдер күшейген сайын артып келе жатқан алаңдаушылықты көрсетеді. Модельдер адам мақсаттарымен дұрыс үйлеспегенде зиян келтіру әлеуеті артады, ал бұл үйлестіру мәселесі әлі шешілмеген. Жылдамдық жағдайды ушықтырады. Рунның ойынша, шабуылдар автоматтандырылса, қорғаныс та солай болуы керек.
Рунның бұл пікірі OpenAI компаниясының инференция жылдамдығы бойынша қазіргі аппараттардан асып түсетін жаңа AI чипін таныстыруына жауап ретінде айтылды. OpenAI және Anthropic компаниялары ақылы пайдаланушыларға жылдамырақ AI модельдеріне қол жеткізуді ұсынатын «Fast Modes» функцияларын ұсынып отыр.
Бұл туралы Qazaqtoday.info сайты хабарлайды.
