ИИ-грамотность: как осмысленно использовать и оценивать системы
ИИ-грамотность объединяет понимание возможностей и ограничений систем ИИ, оценку их результатов и осмысленный выбор способов применения. Она включает критическую проверку ответов, работу с данными и ответственность за решения; владение запросами составляет лишь часть этих навыков.
ИИ-грамотность
Галлюцинации ИИ
Галлюцинациями генеративного ИИ называют создание ошибочного или вымышленного содержания, которое может выглядеть убедительным. Проверка утверждений, ссылок и соответствия исходным данным помогает обнаруживать такие ошибки; уверенный тон модели сам по себе не подтверждает достоверность ответа.
Автоматизационная предвзятость
Автоматизационная предвзятость — склонность чрезмерно полагаться на результат автоматической системы при оценке ситуации или выборе действия. Она может приводить к принятию ошибочной рекомендации или пропуску противоречащих ей сведений; её проявления зависят от задачи и условий взаимодействия.