GitHub начал обсуждение изменений правил платформы в рамках добавления в текущую политику использования сервиса запрета на размещение мошеннических или неэтичных ИИ-проектов для создания дипфейков, например, для создания фиктивного мультимедийного контента с целью порномести и дезинформации. Изменения правил площадки пока находятся в состоянии черновика, доступного для обсуждения в течение 30 суток (до 20 мая 2024 года).
В условия использования сервиса GitHub добавлен абзац, запрещающий размещение проектов, предназначенных для синтезирования и манипулирования мультимедийным контентом для создания интимных образов без согласия (NCII) и контента, нацеленного на введение в заблуждение или дезинформацию. Запрет также распространяется на проекты, которые поощряют, продвигают и поддерживают подобные системы.
По данным OpenNET, в качестве причины введения запрета упоминается попытки использовать различные системы искусственного интеллекта, способные генерировать реалистичные изображения, звук и видео, не только для творчества, но и для злоупотреблений, таких как создание дипфейков и организация спамерских обзвонов.
При этом представители GitHub намерены лояльно относиться к проектам двойного назначения, напрямую не предназначенным для злоупотреблений и не одобряющим вредоносное применение, но которые потенциально могут применяться злоумышленниками в своей деятельности. Меры реагирования администрация площадки будут выбираться с учётом характера проектов, включая анализ решений в каждом случае и возможность разделения использования кода для неправомерных и законных способов применения.
