Генеральный директор компании Сэм Альтман официально подтвердил, что ChatGPT, инструмент чата с искусственным интеллектом, разработанный OpenAI, некоторое время назад просочился в историю чата.
OpenAI, который заявляет, что является «некоммерческой» организацией, стал объектом критики, особенно после выпуска модели GPT-4. Но теперь кажется, что из-за сбоя в конфиденциальности выяснилось, что ChatGPT ненадолго слил истории чатов случайных пользователей в начале этой недели. Это может усилить остроту критики.
Истории разговоров просочились
«Мы очень сожалеем об этом», — заявил генеральный директор OpenAI Сэм Альтман. Если вы использовали его, вы, вероятно, видели, как ChatGPT архивирует ваши чаты. По сути, таким образом вы ведете учет всех текстовых записей, которые вы делаете с помощью программы. Это хорошо, но после глобального сбоя ChatGPT некоторое время назад было замечено, что истории чатов пользователей появляются в историях других людей.
Первоначально OpenAI хранил молчание о ситуации, но в среду Альтман прояснил ситуацию в Twitter и подтвердил утечку. «Небольшой процент пользователей смог увидеть ветки истории разговоров других пользователей», — написал Альтман в Твиттере, но не поделился подробностями. Альтман объяснил проблему программной ошибкой в неназванной «библиотеке с открытым исходным кодом», хотя некоторые считают, что проблема с конфиденциальностью была вызвана хакером. Хорошей новостью является то, что OpenAI выпустила подтвержденный патч для этой проблемы.
we had a significant issue in ChatGPT due to a bug in an open source library, for which a fix has now been released and we have just finished validating.
a small percentage of users were able to see the titles of other users’ conversation history.
we feel awful about this.
— Sam Altman (@sama) March 22, 2023
Остается неясным, раскрыл ли взлом чью-либо конфиденциальную личную информацию. Однако, по словам Альтмана, в результате утечки можно увидеть только заголовки разговоров, но доступ к их содержанию невозможен. Это утверждение также было подтверждено пользователями. Кроме того, просочились адреса электронной почты пользователей ChatGPT Plus, но пока никаких объяснений по этому поводу не дано.
OpenAI заявляла, что ее основной целью с момента основания было проведение исследований в области искусственного интеллекта, которые могут принести пользу человечеству, и что они будут публиковать свои исследования как открытый исходный код. Однако, как видно из технических документов модели GPT-4, детали модели не разглашаются из-за «коммерческих соображений и угроз безопасности». Это привело к критике OpenAI, в которой говорилось, что это «некоммерческая» организация. Для OpenAI, в которую Microsoft инвестировала 10 миллиардов долларов, нет ничего необычного в такой позиции.
