این بازی به عنوان یک بازی سیاه چال با سوخت هوش مصنوعی آغاز شد. خیلی تیره تر شد

OpenAI گفت که این سرویس به کسب و کارها و استارتاپ ها قدرت می بخشد و به مایکروسافت ، حامی سرسخت OpenAI ، مجوز انحصاری برای الگوریتم های اساسی اعطا کرد. WIRED و برخی از برنامه نویسان و محققان هوش مصنوعی که این سیستم را امتحان کردند نشان دادند که می تواند متن نامطبوعی مانند اظهارات ضد یهودی و تبلیغات افراطی ایجاد کند. OpenAI گفت که مشتریان را به دقت از بین می برد تا بازیگران بد را از بین ببرند ، و بیشتر مشتریان – اما نه Latitude – را ملزم به استفاده از فیلترهایی می کند که ارائه دهنده هوش مصنوعی برای جلوگیری از ناسزاگویی ، سخنان نفرت انگیز یا محتوای جنسی ایجاد کرده است. قرار است در طبیعت رفتار کند. " سوچین گورنگان ، محقق ، دانشگاه واشنگتن در دسامبر 2019 ، ماهی که بازی با استفاده از نسخه منبع باز قبلی فناوری OpenAI راه اندازی شد ، 100000 بازیکن را به خود اختصاص داد. برخی به سرعت تسلط خود را بر محتوای جنسی کشف کردند و به آن عشق ورزیدند. برخی دیگر شکایت داشتند که هوش مصنوعی موضوعات جنسی را به صورت نامحدود مطرح می کند ، به عنوان مثال هنگامی که آنها سعی کردند با سوار شدن بر اژدها سفر کنند و ماجراجویی آنها به نوبه خود غیرقابل پیش بینی بود. نیک والتون ، بنیانگذار منطقه ای ، این مشکل را در چند روز پس از راه اندازی در انجمن رسمی Reddit این بازی تصدیق کرد. او گفت که چندین بازیکن برای او نمونه هایی ارسال کرده اند که باعث می شود آنها "به شدت ناراحت باشند" ، و اضافه کرد که این شرکت در حال کار بر روی فناوری فیلتر کردن است. از ماه های اولیه بازی ، بازیکنان همچنین متوجه شدند – و به صورت آنلاین روی پرچم قرار گرفتند – که گاهی اوقات کودکان را در سناریوهای جنسی می نویسد. انجمن های رسمی Reddit و Discord از AI Dungeon کانالهای اختصاصی را برای بحث در مورد محتوای بزرگسالان ایجاد شده توسط بازی اضافه کردند. Latitude یک «حالت ایمن» اختیاری را اضافه کرد که پیشنهادات مربوط به هوش مصنوعی را با کلمات خاصی فیلتر می کرد. با این حال ، مانند همه فیلترهای خودکار ، کامل نبود. و برخی از بازیکنان متوجه شدند که محیط ظاهراً امن ، نوشتار وابسته به عشق تولیدکننده متن را بهبود می بخشد ، زیرا از قیاس ها و تعبیرهای بیشتری استفاده می کرد. این شرکت همچنین یک رتبه اشتراک حق بیمه برای ایجاد درآمد اضافه کرد. هنگامی که AI Dungeon الگوریتم های نوشتاری تجاری قوی تر OpenAI را در جولای 2020 اضافه کرد ، نوشتن هنوز چشمگیرتر شد. یکی از بازیکنان باسابقه می گوید: "جهش محض در خلاقیت و قصه گویی آسمانی بود." این شخص می گوید ، این سیستم در توانایی خود برای کشف موضوعات جنسی نیز به طور قابل توجهی خلاق تر شده است. سال گذشته بازیکنان متوجه شدند Latitude با فیلتری آزمایش می کند که به طور خودکار کلمه "تجاوز" را با "احترام" جایگزین می کند ، اما این ویژگی حذف شد. بازیکن کهنه کار در بین علاقه مندان به AI Dungeon بود که بازی را به عنوان AI- پذیرفتند. ابزار نوشتاری پیشرفته برای کشف موضوعات بزرگسالان ، از جمله در یک گروه نوشتاری اختصاصی. پیشنهادات ناخواسته از الگوریتم را می توان از یک داستان حذف کرد تا آن را در جهت دیگری هدایت کند. نتایج به طور عمومی ارسال نمی شود مگر اینکه شخصی تصمیم بگیرد آنها را به اشتراک بگذارد. Latitude از به اشتراک گذاشتن آمار در مورد تعداد زیادی ماجراجویی حاوی محتوای جنسی خودداری کرد. وب سایت OpenAI می گوید AI Dungeon هر روز بیش از 20000 بازیکن را به خود جذب می کند. بازیکن AI Dungeon که هفته گذشته در مورد نقص امنیتی ارسال کرد که باعث می شود هر داستان ایجاد شده در بازی در دسترس عموم قرار گیرد ، می گوید که او صدها هزار ماجراجویی را که طی چهار روز در آوریل ایجاد شده است بارگیری کرده است. او نمونه ای از 188000 مورد از آنها را مورد تجزیه و تحلیل قرار داد و 31 درصد حاوی کلماتی بود که نشان می داد آنها جنسیت واضح دارند. این تجزیه و تحلیل و نقص امنیتی ، که اکنون برطرف شده است ، باعث عصبانیت برخی از بازیکنان نسبت به رویکرد جدید Latitude در تعدیل محتوا شده است. Latitude اکنون با چالش جلب اعتماد کاربران در حین برآورده کردن الزامات OpenAI برای کنترل دقیق تر بر روی مولد متن خود روبرو است. به گفته سخنگوی OpenAI ، این استارتاپ اکنون باید از فناوری فیلترینگ OpenAI استفاده کند. نحوه استقرار مسئولانه سیستم های هوش مصنوعی که بخش های زیادی از متن اینترنت را در بر گرفته اند ، از جمله برخی از قسمت های ناخوشایند ، به موضوعی داغ در تحقیقات هوش مصنوعی تبدیل شده است. دو محقق برجسته گوگل پس از اعتراض مدیران به مقاله ای مبنی بر احتیاط در مورد چنین فناوری ، مجبور به ترک شرکت شدند. این فناوری می تواند به روشهای بسیار محدود استفاده شود ، مانند جستجوی Google که به تجزیه و تحلیل معنای پرس و جوهای طولانی کمک می کند. OpenAI به AI Dungeon کمک کرد تا یک برنامه کاربردی چشمگیر اما پرمصرف را راه اندازی کند که به مردم اجازه می دهد این فناوری را به هر نحوی که می تواند از آب خارج کند. .