Безпека, етика й відповідальність
Червоні зони перевірки, персональні дані, корпоративний контур, професійне рішення і вправа «Звір відповідь із джерелом».
Глибина перевірки залежить не від тону відповіді, а від наслідків помилки
За 45 хвилин ви навчитесь перевіряти відповіді ШІ ризик-орієнтовано: що звіряємо завжди, що може залишитись чернеткою, які дані не можна вводити в публічний чат і де закінчується роль інструмента в професійному рішенні.
Що всередині
Галюцинації — і чому в медичній темі вони найнебезпечніші
«Галюцинація» — назва для випадку, коли модель викладає не підтверджену інформацію так само гладко й впевнено, як підтверджену. Як обговорювали в Модулі 1: пошук або завантажений документ дають можливість звірити відповідь із конкретним джерелом, але самі по собі не гарантують правильності.
Чотири червоні зони — і чотири способи перевірки
Перевірка має бути ризик-орієнтованою. Не кожна чернетка потребує однакової уваги, але будь-який факт, який переходить у навчальний матеріал, тест, консультацію, відпуск або робоче рішення, повинен мати джерело відповідного рівня.
- Окремо: мова й точність термінів
Персональні дані пацієнта: що не можна вводити в чат
Окремі деталі теж можуть ідентифікувати людину в сукупності: рідкісний діагноз, точний вік, комбінація препаратів, місце й час звернення. За Законом України «Про захист персональних даних» знеособлення означає вилучення відомостей, які дають змогу ідентифікувати особу, а не лише видалення імені.
- ШІ в АНЦ: корпоративний контур
- Професійне рішення й юридична відповідальність
Вправа «Звір відповідь із джерелом»
Пʼять навчальних мініприкладів. Назви «Препарат А» і «Препарат Б» умовні: це не інструкція для реального відпуску. У кожному прикладі є уривок джерела й відповідь ШІ. Визначте, чи відповідає вона саме наведеному тексту. Коректних відповідей дві з пʼяти.
Після модуля ви зможете сказати про себе
- Я можу перелічити чотири червоні зони, які перевіряю завжди.
- Я пройшов вправу «Звір відповідь із джерелом» і бачу різницю між підтвердженим висновком і правдоподібним додаванням.
- Я знаю, які дані не вводжу в публічний чат — і що знеособлення ширше за видалення імені.
- Я розумію, що «мені так відповів ШІ» не підтверджує виконання професійної перевірки.
Практика, вправи й перевірка — у модулі після реєстрації.
Як відкрити модуль
Створіть акаунт і підтвердьте свій номер через Telegram. Після цього відкриються всі модулі, практичні завдання й фінальний тест. Як ми обробляємо ваші дані.