شرکت اوپن‌ای‌آی در کمتر از ۷۲ ساعت با هوش مصنوعی کلود هک شد

سه محقق امنیتی از استارتاپ هک‌تران (Hacktron) با بهره‌گیری از هوش مصنوعی کلود (Claude) متعلق به شرکت آنتروپیک (Anthropic)، موفق شدند ظرف کمتر از ۷۲ ساعت به حساب‌های کاربری و مخزن کدهای داخلی شرکت اوپن‌ای‌آی (OpenAI) نفوذ کنند. این پژوهشگران با پیوند دادن یک آسیب‌پذیری پردازش تصویر در انجمن گفت‌وگوی اوپن‌ای‌آی با رخنه‌ای در ساختار احراز هویت، راه خود را به محیط توسعه داخلی این غول هوش مصنوعی باز کردند. کاهش زمان حملات سایبری با ابزارهای هوش مصنوعی این آزمایش نشان می‌دهد ابزارهای تولید کد و هوش مصنوعی تا چه میزان چرخه توسعه ابزارهای نفوذ را فشرده کرده‌اند؛ موضوعی که زنگ خطری جدی برای متمرکز شدن فرایندهای توسعه بر روی دستیارهای هوشمند به شمار می‌رود. موهان پدهاپاتی (Mohan Pedhapati)، هم‌بنیان‌گذار هک‌تران در حساب خود در شبکه اجتماعی ایکس نوشت: نتیجه کلیدی ما از نفوذ به اوپن‌ای‌آی این است که هوش مصنوعی نیاز به تخصص‌های کمیاب را برای طراحی ابزارهای نفوذ کاهش می‌دهد. کارهایی که پیش‌تر ماه‌ها زمان می‌برد، اکنون ظرف چند روز انجام می‌شود و حتی پیشرفته‌ترین آزمایشگاه‌های فناوری نیز نفوذپذیر هستند.