Проаналізувати схему (мал. 5.2), де може з'явитися упередженість, і пояснити причини цього явища на етапах роботи системи.
Що треба знати
Упередженість виникає на етапах аналізу запиту (через невизначеність наміру), вибору джерел (комерційні інтереси або упереджена база) та формулювання відповіді (алгоритм може підсилити стереотипи).
💡 Підказка — спробуй спершу сам
Зверніть увагу, що помилки можуть виникнути на будь-якому етапі обробки: від розуміння запиту до фінального тексту.
Розв’язання крок за кроком
На етапі аналізу ШІ може неправильно зрозуміти контекст або намір користувача, що призводить до упередженого пошуку.
При виборі джерел система може пріоритезувати матеріали від партнерів або популярні, але не завжди об'єктивні статті.
Під час формулювання відповіді алгоритм може генерувати текст, що підтверджує існуючі стереотипи через навчання на упереджених даних.
Відповідь:
Упередженість виникає при неправильному аналізі запиту, комерційному виборі джерел та генеруванні тексту на основі стереотипів.
