دانشمندان در مطالعه جدیدی از ChatGPT خواستند تا برای درمان سرطان برنامه‌هایی را طراحی کند، اما چت‌بات هوش مصنوعی OpenAI اطلاعات نادرستی را به آن‌ها ارائه کرد.
علاوه بر این، اشاره شد که ChatGPT در پاسخ‌های خود از اطلاعات صحیح و نادرست به‌طور ترکیب‌شده استفاده می‌کند که این امر تشخیص دقت آن‌ها را دشوار می‌کند.
به گفته دانشمندان، از مجموع ۱۰۴ پرسش، حدود ۹۸ درصد از پاسخ‌های ارائه شده توسط ChatGPT شامل حداقل یک توصیه درمانی بود که با دستورالعمل‌های شبکه جامع سرطان ملی مطابقت داشت. «دانیل بیترمن»، یکی از نویسندگان این مطالعه می‌گوید: «چت‌بات اغلب به روشی کاملاً مطمئن صحبت می‌کند که منطقی به‌نظر می‌رسد و این موضوع که می‌تواند اطلاعات نادرست و صحیح را با یکدیگر ترکیب کند، ظرفیت خطرناک بودن را دارد.»
ChatGPT نوامبر سال ۲۰۲۲ راه‌اندازی شد و از همان زمان مورد توجه و استقبال بسیار خوبی قرار گرفته و قابلیت‌های آن همه را شگفت‌زده و البته نگران کرده است. موفقیت این چت‌بات باعث شد تا بسیاری از شرکت‌های فناوری از جمله گوگل، مایکروسافت، متا و حتی اپل برنامه‌های خود را تا حدودی روی هوش مصنوعی متمرکز کنند و تاکنون نمونه‌های کاربری بسیار زیادی راه‌اندازی شده‌اند.
اخیراً نیز کره جنوبی از رقیب خود برای ChatGPT رونمایی کرد که CLOVA X نام دارد. شیائومی دیگر شرکت بزرگی است که اخیراً شایعه شده بود قصد دارد به فهرست رقبای ChatGPT و Bard گوگل اضافه شود. هرچند این فناوری باعث شگفت‌زدگی بیل گیتس شده است، اما برخی مشکلات آن مانند ارائه اطلاعات نادرست یا حتی هزینه هنگفت توسعه آن، نگرانی‌هایی را به همراه داشته است.