Откройте завесу тайны: Узнайте о защите от ИИ!!
Этот вопрос в Дискуссионном Клубе Полтава рассмотрели Александр Золотухин и Сергей Пецик.
Отдельные тезисы дискуссии
Вступление Сергей Пецик.
Интернет будет много фейковой информации. ИИ БУДЕТ САМ ДЕЛАТЬ ЭТУ ИНФОРМАЦИЮ?
Как людям с этим бороться?
Вступление Александра Золотухина.
Семинар в октябре 2021 годы – исследователи OpenAI совместно с Центром безопасности и новых технологий Джорджтаунского университета и Стэнфордской интернет-обсерваторией.
По результатам семинара составлен отчет. В этом отчете описываются угрозы, которые языковые модели представляют для информационной среды, если они используются для усиления кампаний по дезинформации, и представлена структура для анализа возможных мер по смягчению последствий.
Широкая доступность технологий, основанных на языковых моделях, может повлиять на все три аспекта:
Актеры: языковые модели могут снизить стоимость выполнения операций влияния, делая их доступными для новых акторов и типов акторов. Точно так же наемные пропагандисты, автоматизирующие производство текста, могут получить новые конкурентные преимущества.
Поведение: Операции влияния с языковыми моделями станут легче масштабировать, а тактика, которая в настоящее время является дорогостоящей (например, создание персонализированного контента), может стать дешевле. Языковые модели также могут способствовать появлению новых тактик, таких как генерация контента в реальном времени в чат-ботах.
Контент: инструменты для создания текста, основанные на языковых моделях, могут генерировать более эффективные или убедительные сообщения по сравнению с пропагандистами, особенно теми, у кого нет необходимых лингвистических или культурных знаний о своей цели. Они также могут сделать операции влияния менее заметными, поскольку они постоянно создают новый контент, не прибегая к копированию и вставке и другим заметным действиям, экономящим время.
языковые модели будут полезны для пропагандистов и, вероятно, изменят онлайн-операции влияния. Даже если самые передовые модели хранятся в секрете или контролируются через доступ к интерфейсу прикладного программирования (API), пропагандисты, скорее всего, будут тяготеть к альтернативам с открытым исходным кодом, а государства могут сами инвестировать в технологию.
Возможные смягчения последствий:
Контроль моделей;
Ограничение на использование;
Поисковики делают метки на материалы, сделанные ИИ;
Подтверждение личности в интернет;
Правительства ограничивают сбор данных;
Правительства устанавливают контроль доступа к ИИ
Тезис Сергея:
Океан фейков.
Вычислить сложно.
Метку поставят на произведения человека.
Обычные люди будут скучиваться в структуру – в социальную сеть. Пройти идентификацию.
Личная марка человека. Всю информацию, что выкладывает, подтверждает свою марку.
Анонимность исчезнет.
Вымирание тролей.
Тезисы Александра:
1.Непричастность, безэмоциональность.
Не иметь желаемого ответа.
Эмоционально поданная информация как правило неправдива.
Эмоции уводят нас от правдивой информации.
2.Всегда не доверять себе, все мнения есть неокончательные.
Считать, что существующее на данный момент твое мнение не окончательное. Оно основано на доступных на данный момент фактах. Но при поступлении новых фактов мнение может меняться.
3.Полагаться на мнение экспертов, суперпрогнозистов.
Биржи предсказаний.
Сайты проверки фактов, такие как Snopes, FactCheck.org, PolitiFac
Эксперты по разным вопросам.
===
Тайм-коды дискуссии:
00:00 Интро.
00:05 Вступление.
00:25 О чём будет разговор (Сергей Пецик).
02:31 О угрозах ИИ от разработчиков ChatGPT/
08:40 Личная марка человека.
16:03 Психология защиты.
16:27 Непричастность, безэмоциональность.
19:50 Всегда не доверять себе, все мнения есть неокончательные.
21:22 Полагаться на мнение экспертов, суперпрогнозистов.
25:12 Вывод Сергея по дискуссии.
26:00 Вывод Александра по дискуссии.
28:46 Сергей не согласен с выводами Александра.
31:01 Вопрос и замечание зрителя.
32:01 Ответ Сергея на вопрос зрителя.
34:04 Мнение Александра по вопросу зрителя.
37:47 Вывод зрителя по дискуссии.
39:11 Окончание дискуссии.
====
Смотрите нашу дискуссию, размышляйте и делайте свой рассудительный вывод.
Голосуйте!
Загрузка ...===
ПОДДЕРЖАТЬ НАШ ПРОЕКТ МОЖНО РАЗНЫМИ СПОСОБАМИ:
1. “Чашкой кофе“:
► monobank: 4441 1144 6848 1203
А ТАКЖЕ:
2. Подпиской на канал в Ютуб, включением “колокольчика” уведомлений
3. Просмотрами наших видео до конца, лайками-дизлайками, комментариями.
