В последнее время наши специалисты провели много встреч с экспертами по безопасности и побывали на конференции RSA. В ходе этих встреч многие руководители из разных отраслей, включая финансовую и производственную, задавали нам вопросы о ChatGPT и других ИИ. И все они интересовались мерами, которые можно предпринять для блокировки ChatGPT, а также возможностями безопасного использования этого инструмента для сотрудников. Кроме того, многие организации хотели узнать, как контролировать использование ChatGPT и других генеративных ИИ среди своих сотрудников и как предотвратить утечки данных, как в случае с Samsung.
В Также были вопросы о том, как наша компания использует инструменты AI/ML, такие как ChatGPT, и какие положительные примеры можно найти в этой области. Некоторые крупные предприятия-клиенты работают над созданием политической рамки для безопасного использования генеративных ИИ, включая ChatGPT, а также других инструментов, таких как Copymatic и AI21. Это особенно актуально для предприятий финансовой отрасли по всему миру.
Наша компания признает важность нахождения баланса между использованием инновационных инструментов искусственного интеллекта, таких как ChatGPT, и обеспечением безопасности и защиты конфиденциальных данных. В связи с этим в сегодняшней статье мы хотим поговорить о решении от Zscaler, которое позволит реализовать интеллектуальные контроли доступа, позволяющие клиентам принимать меры по использованию различных генеративных инструментов искусственного интеллекта и машинного обучения, включая OpenAI ChatGPT.
Один из вариантов - заблокировать доступ к этим инструментам полностью, что является популярной мерой контроля в финансовой и регулируемой отраслях. В качестве альтернативы можно использовать осторожный доступ, при котором пользователи получают инструкции о рисках использования таких инструментов и получают доступ только при соблюдении определенных условий.
Еще один вариант - изолировать доступ к этим инструментам через браузерную изоляцию, что предотвращает загрузку любых результатов для предотвращения проблем с правами интеллектуальной собственности и авторскими правами. Такой подход позволяет безопасно экспериментировать с генеративными инструментами искусственного интеллекта и машинного обучения, минимизируя риск утечки данных или других проблем безопасности.
Найти баланс с помощью интеллектуальных контролей доступа с помощью Zscaler, нашлось сотни инструментов и сайтов, включая OpenAI ChatGPT, которые были помещены в особый роздал в панели Zscaler имеющей название «AI and ML Applications», через которую можно принимать следующие меры по широкому спектру генеративных инструментов искусственного интеллекта и машинного обучения, включая:
- Блокирование доступа (популярный контроль в финансовой и регулируемой отраслях)
- Осторожный доступ (обучение пользователей рискам использования таких генеративных инструментов)
- Изоляция доступа (доступ предоставляется только через браузерную изоляцию, но любые результаты таких инструментов не могут быть загружены для предотвращения проблем с правами интеллектуальной собственности и авторскими правами).
Контроль доступа к ChatGPT с помощью DLP-технологий
Поскольку ChatGPT является наиболее популярным приложением искусственного интеллекта, у Zscaler создали предопределенное облачное приложение ChatGPT, чтобы обеспечить более эффективный контроль доступа к нему. Для многих организаций, которые не хотят блокировать доступ к ChatGPT, но опасаются утечки данных и потери прав на интеллектуальную собственность, связанной с загружаемым контентом, можно использовать тонко настроенные DLP-контроли.
Клиенты также могут установить строгие политики защиты данных с помощью DLP-политик Zscaler. Поскольку OpenAI доступен через HTTPS, Inline расшифрование SSL от Zscaler обеспечивает полную видимость содержимого/запросов, которые пользователи отправляют на сайт ChatGPT, а также загружаемого контента.
В этом коротком демонстрационном видео показано, как технология DLP Zscaler позволяет блокировать пользователей, которые пытаются загрузить номера кредитных карт на сайт ChatGPT. Zscaler DLP применяет политику встроенно для предотвращения потери данных, и та же функция применяется к исходному коду с помощью словарей исходного кода Zscaler.
Кроме того, многие клиенты задают вопросы о том, можно ли просматривать "запросы, которые наши сотрудники отправляют в ChatGPT, вызывает ли это DLP или нет?" Мы абсолютно позволяем это с помощью интегрированного приемника инцидентов с политиками DLP Zscaler.
Это короткое демонстрационное видео иллюстрирует, как настроить "правило DLP без проверки содержимого" в политике защиты данных. Это означает, что вы можете захватывать любой запрос HTTP POST, сделанный к приложению ChatGPT больше 0 байт, и отправлять его в приемник инцидентов Zscaler, который в свою очередь может отправлять любой захваченный POST в ChatGPT в инструмент управления инцидентами предприятия или почтовый ящик аудитора.
Эта возможность может дать вам уверенность и позволить вашей организации безопасно использовать ChatGPT в своей среде для сотрудников.
Проблемы кибербезопасности с ChatGPT
Хотя ChatGPT и многие подобные ему инструменты созданы для предотвращения неправомерного использования и создания вредоносного кода на своей платформе, их можно обмануть для генерации кода для этического взлома или тестирования на проникновение, а затем изменить этот код для создания вредоносного программного обеспечения. Публично известных примеров такого вредоносного программного обеспечения пока может и не существовать, но в сети дарквеб идет достаточно разговоров, чтобы следить за этим.
Кроме того, многие средства защиты электронной почты используют техники обработки естественного языка (Natural Language Processing, NLP) для определения фишинговых атак или атак социальной инженерии. ChatGPT может помочь создавать идеальные письма на английском языке, избегая орфографических ошибок и грамматических ошибок, что затрудняет эффективность таких средств контроля.
Какое будущее ChatGPT?
Принятие ChatGPT и генеративного искусственного интеллекта движется к широкому распространению, и скоро может появиться "корпоративная версия", которая позволит организациям расширить существующие контроли кибербезопасности и защиты данных, такие как CASB (Cloud Access Security Broker), сканирование данных в покое, SSPM (Secure Sockets Policy Manager) и т. д.
Мы совместно с компанией Zscaler в течение последних нескольких лет успешно применяем возможности искусственного интеллекта и машинного обучения на наших проектах для решения сложных проблем в области кибербезопасности и автоматизации операций искусственного интеллекта (AIOps). Возможности машинного обучения классифицируют недавно обнаруженные веб-сайты, обнаруживают фишинг и ботсети, выявляют энтропию в трафике DNS для обнаружения вредоносных доменных имён и даже помогают автоматизировать анализ причин проблем, связанных с пользовательским опытом.
В завершение, безопасность генеративных инструментов искусственного интеллекта становится все более важной в современном цифровом мире. Одной Мы одна из компаний в Казахстане, которая занимается обеспечением безопасности и предоставляет надежные решения для защиты данных.
Наше сотрудничество с Zscaler, ведущей компанией в области безопасности в облаке, позволяет эффективно защитить генеративные инструменты искусственного интеллекта, включая ChatGPT. Zscaler предоставляет облачную платформу для безопасности, которая обеспечивает защиту данных от угроз и вредоносных программ.
Если вы заинтересованы в обеспечении безопасности ваших генеративных инструментов искусственного интеллекта или хотите узнать больше о том, как Софтлист и Zscaler могут помочь вам в этом, рекомендуем запросить демонстрацию у нас. Позвольте себе оценить преимущества безопасности и сделать успешный опыт работы с нами. Не откладывайте это на потом, а примите решение сегодня, чтобы обеспечить надежную защиту вашей организации и ваших данных!