Урок 13: Упередження (bias) оператора OSINT та AI — як уникати хибних висновків

Навігація курсу: Хаб: Уроки

Попередній: Урок-12-Кластеризація-телеграм-груп-та-візуалізація-графів | Наступний: Урок-14-Візуалізація-OSINT-даних

Слайди (Презентаційний текст)

Слайд 1 — Заголовок

Упередження оператора OSINT та AI
Як уникати хибних висновків

Слайд 2 — Чому це важливо у 2025-2026?

Нова загроза: AI посилює людські упередження

Коли AI стає основним інструментом:

Аналітик менше критично перевіряє висновки AI
AI навчений на упереджених даних → відтворює і підсилює їх
Швидкість AI-аналізу знижує “паузу для роздумів”

“Slow collapse of critical thinking in OSINT due to AI” — ShadowDragon, 2025

Слайд 3 — Карта когнітивних упереджень аналітика

Упередження	Опис	OSINT-прояв
Confirmation bias	Шукаємо підтвердження, ігноруємо спростування	”Я знав що він винен, тому шукав докази”
Anchoring bias	Перша інформація надто впливає	Перше джерело задає рамку всього аналізу
Availability heuristic	Перебільшення ваги яскравих прикладів	Нещодавня гучна новина = основний факт
Groupthink	Колективне рішення без критики	”Всі кажуть що…”
Automation bias	Надмірна довіра автоматичному	”AI сказав, значить правда”

Слайд 4 — Confirmation Bias: найнебезпечніший

Визначення: тенденція шукати інформацію яка підтверджує вже сформовану думку і ігнорувати суперечливу.

В OSINT:

Замовник каже “знайди компромат на конкурента” → ти шукатимеш тільки негативне
Перше джерело позиціонує суб’єкта злочинцем → ти інтерпретуватимеш всі наступні факти через цю призму

Рішення:

Явно шукай дані ЩО СПРОСТОВУЮТЬ твою гіпотезу
Формулюй альтернативні гіпотези до початку збору
Проводь “devil’s advocate” сесію

Слайд 5 — Automation Bias: специфіка 2025-2026

Automation bias — надмірна довіра автоматизованому результату

Прояви у AI-OSINT:

“Claude/GPT сказав — значить правда”
Копіювання AI-звіту без верифікації фактів
Прийняття AI-оцінки достовірності без перевірки джерел
Делегування аналізу AI без власного погляду

“AI produces probabilistic, variable, and non-auditable answers” — Reuters Institute

Правило: AI — це черновик. Аналітик — редактор.

Слайд 6 — Упередження в AI-моделях

Джерела упередження LLM:

Тренувальні дані переважно англомовні → менша точність для CIS-контексту
Перепредставленість певних джерел (Вікіпедія, Reddit)
Геополітичні упередження закладені в тренування
“Safe” відповіді уникають контроверсійних тверджень

Практичні наслідки:

Маловідома постать з Харкова = менша точність ніж публічна особа з Нью-Йорка
AI може некоректно атрибутувати досягнення
Culturally specific signals можуть бути пропущені

Слайд 7 — Analysis of Competing Hypotheses (ACH)

ACH — структурований метод для нейтралізації confirmation bias

Кроки:

Сформулюй 3-5 альтернативних гіпотез
Перелічи всі докази і indications
Перевір кожен доказ на відповідність кожній гіпотезі
Усунь гіпотези найбільш несумісні з доказами
Аналізуй чутливість висновку

Матриця ACH:

              Гіп.1  Гіп.2  Гіп.3
Доказ A:        ✓      ✗      ?
Доказ B:        ✓      ✓      ✗
Доказ C:        ✗      ✓      ✓
─────────────────────────────────
Несумісностей: 1      1      2

Найслабша → Гіп.3 (найбільше несумісностей)

Слайд 8 — Structured Analytic Techniques (SAT)

SAT — набір методів для систематичного OSINT-аналізу:

Техніка	Призначення
ACH	Оцінка конкуруючих гіпотез
Devil’s Advocate	Навмисне спростування висновку
Key Assumptions Check	Перевірка базових припущень
Red Team Analysis	Аналіз з позиції опонента
Pre-Mortem Analysis	”Чому цей висновок виявиться хибним?”

Слайд 9 — Checklist антибіас (перед здачею звіту)

□ Чи перевіряв я інформацію ЩО СУПЕРЕЧИТЬ моєму висновку?
□ Чи сформулював я альтернативні гіпотези?
□ Чи перевірив я кожен AI-факт незалежно?
□ Чи є у мене особистий інтерес у конкретному результаті?
□ Чи не є замовник зацікавленим у конкретному висновку?
□ Чи звертав я увагу на відсутні дані (не тільки наявні)?
□ Чи документував я суперечності замість їх вирішення?
□ Чи перевірив я collision (чи не переплутав суб'єктів)?

Слайд 10 — Absence of Evidence ≠ Evidence of Absence

Найважливіший принцип OSINT:

“Не знайшов даних” ≠ “Даних немає”

Можливі причини відсутності даних:

Суб’єкт навмисно мінімізував цифровий слід (OpSec)
Дані існують але в недоступному вам джерелі
Дані видалені або не проіндексовані
Мовний бар’єр або регіональне джерело

Правило: завжди зазначати “не знайдено при методах X, Y, Z” — а не “не існує”

Слайд 11 — Упередження вибірки (Sampling Bias)

В OSINT: ми аналізуємо тільки те, що знайшли

Проблеми:

Люди з мінімальним цифровим слідом недопредставлені
Видалений контент відсутній (але існував)
Непублічне спілкування (Signal, Wickr) невидиме
Регіональні джерела на непоширених мовах пропускаються

Наслідок: висновки про “цифровий профіль” = висновки про публічну версію, не про реальну особу

Слайд 12 — Кейс: як упередження руйнує розслідування

Відомий приклад: Ryan Lochte Incident (2016)

Перший наратив: пограбування олімпійського чемпіона
Медіа і влада підтвердили версію (confirmation bias)
Запис камери суперечив — ігнорувався
Реальність: інцидент стався по-іншому

Урок для OSINT: перший привабливий наратив = перше що треба перевірити, не прийняти

Нотатки доповідача

До слайду 2 — Специфіка 2025-2026

Підкресліть: automation bias — нова форма упередження специфічна для AI-епохи. До AI аналітики більше перевіряли власну роботу. Тепер є спокуса “довірити AI” і не перевіряти. Саме тому цей урок стоїть у кінці курсу — коли студенти вже активно використовують AI.

До слайду 7 — ACH

Проведіть вправу ACH просто на лекції. Візьміть простий приклад: “Telegram-канал раптово зупинив публікації. Чому?” Сформулюйте 4-5 гіпотез разом з аудиторією, перелічіть докази, побудуйте матрицю.

До слайду 10 — Absence of Evidence

Це принцип з логіки і права. Підкресліть: у кримінальних справах “не знайдено доказів” ≠ “невинний”. В OSINT так само. Нульовий результат — це теж результат, але він потребує пояснення.

Домашнє завдання

Завдання 1 — ACH на практиці (обов’язкове)

Візьміть будь-яку нерозв’язану публічну ситуацію (компанія раптово закрилась, публічна особа зникла з медіа і т.д.).

Сформулюйте 4 гіпотези
Зберіть докази з відкритих джерел
Побудуйте матрицю ACH
Визначте яка гіпотеза найбільш сумісна з доказами

Завдання 2 — Упередження у власному досьє (обов’язкове)

Візьміть звіт з Уроку 8 (воркшоп).

Застосуйте чеклист антибіас (Слайд 9)
Знайдіть 2-3 місця де ви могли потрапити під confirmation bias
Шукайте дані що суперечать вашим висновкам — знайдіть хоча б один суперечливий факт

Завдання 3 — AI-упередження (бажане)

Попросіть AI (Claude або GPT) проаналізувати двох людей:

Публічну особу з CIS-регіону (маловідому)
Публічну особу з англомовного контексту (добре відому)

Порівняйте деталізованість і точність відповідей. Де AI демонструє більше упередження?

Матеріали для студентів

Ресурси

Когнітивні упередження в OSINT:

Матриця ACH (роздаткове)

АНАЛІЗ КОНКУРУЮЧИХ ГІПОТЕЗ (ACH)
Ситуація: ___________________________
Дата: _______________

ГІПОТЕЗИ:
Г1: ________________________________
Г2: ________________________________
Г3: ________________________________
Г4: ________________________________

ДОКАЗИ І ІНДИКАТОРИ:
         Г1    Г2    Г3    Г4
Д1:      [ ]   [ ]   [ ]   [ ]   Джерело: ___
Д2:      [ ]   [ ]   [ ]   [ ]   Джерело: ___
Д3:      [ ]   [ ]   [ ]   [ ]   Джерело: ___
Д4:      [ ]   [ ]   [ ]   [ ]   Джерело: ___
Д5:      [ ]   [ ]   [ ]   [ ]   Джерело: ___

(✓ = сумісно, ✗ = несумісно, ? = невизначено)

ПІДСУМОК НЕСУМІСНОСТЕЙ:
Г1: ___  Г2: ___  Г3: ___  Г4: ___

ВИСНОВОК: Найбільш вірогідна — ________________
Рівень впевненості: Висока / Середня / Низька
Умова для зміни висновку: ___________________

← Урок-12-Кластеризація-телеграм-груп-та-візуалізація-графів | Наступний урок: Урок-14-Візуалізація-OSINT-даних →

AI для OSINT 2026

Провідник

Урок-13-Bias-та-упередження