شرکت چینی «مون‌شات»، سازنده مدل‌های هوش مصنوعی «کیمی»، پس از آن‌که پژوهشگران موفق شدند دو مدل پرکاربرد این شرکت را وادار کنند درباره ساخت سلاح‌های بیولوژیک و انجام ترور اطلاعات ارائه دهند، بررسی داخلی را آغاز کرده است.

مایندگارد، شرکتی که امنیت سامانه‌های هوش مصنوعی را آزمایش می‌کند، به بی‌بی‌سی گفت در ماه ژوئیه متوجه شده است که دو مدل «کیمی» به نام‌های K2.6 و K3 Swarm قادرند محدودیت‌های ایمنی در نظر گرفته‌شده از سوی سازندگانشان را دور بزنند.

این موضوع در جریان فرایندی موسوم به «جیلبریک» (برداشتن محدودیت‌ها) آشکار شد؛ روشی که در آن پژوهشگران با استفاده از مجموعه‌ای از دستورهای پیچیده تلاش می‌کنند مشخص کنند آیا ابزارهای هوش مصنوعی می‌توانند محدودیت‌ها و موانع ایمنی تعیین‌شده برای خود را نادیده بگیرند یا نه.

 شرکت چینی «مون‌شات» در گفت‌وگو با بی‌بی‌سی اعلام کرد که از بازخورد و مشارکت طرف‌های مستقل استقبال می‌کند و آن را «یکی از ارکان اصلی ساخت هوش مصنوعی بهتر و ایمن‌تر» می‌داند.