Проаналізувати схему (мал. 5.2) та пояснити, де може з'явитися упередженість ШІ. Визначити етапи: Запит, Аналіз, Вибір джерел, Формулювання відповіді, Виведення.
Розв’язання
На етапі аналізу система може неправильно інтерпретувати контекст або проігнорувати нюанси запиту через обмежену базу знань.
Під час вибору джерел алгоритм може обирати ті, що виглядають популярними, а не обов'язково достовірними, ігноруючи менш відомі, але правдиві дані.
При формулюванні відповіді модель може генерувати неточні твердження, спираючись на шаблони, які містять упередженість.
Відповідь:
Упередженість виникає на етапах аналізу запиту (неправильна інтерпретація), вибору джерел (прихильність популярним ресурсам) та формулювання відповіді (генерування неточностей).
Проаналізувати схему (мал. 5.2) та пояснити, де може з'явитися упередженість ШІ. Визначити етапи: Запит, Аналіз, Вибір джерел, Формулювання відповіді, Виведення.
Що треба знати
Упередженість виникає на етапах аналізу (алгоритм може ігнорувати певні контексти) та вибору джерел (система може надавати перевагу популярним або комерційним ресурсам).
💡 Підказка — спробуй спершу сам
Зверніть увагу, що помилки можуть виникнути на будь-якому етапі обробки запиту, особливо якщо модель «навчена» на упереджених даних.
Розв’язання крок за кроком
На етапі аналізу система може неправильно інтерпретувати контекст або проігнорувати нюанси запиту через обмежену базу знань.
Під час вибору джерел алгоритм може обирати ті, що виглядають популярними, а не обов'язково достовірними, ігноруючи менш відомі, але правдиві дані.
При формулюванні відповіді модель може генерувати неточні твердження, спираючись на шаблони, які містять упередженість.
Відповідь:
Упередженість виникає на етапах аналізу запиту (неправильна інтерпретація), вибору джерел (прихильність популярним ресурсам) та формулювання відповіді (генерування неточностей).
