Художник: Юрий Аратовский
Нет никакого “искусственного интеллекта”, программы которые уч0ные так обозначают просто “электронные попугаи”, что в них загрузят, то они и излагают. При этом лжи получается больше, чем имеется в загруженных данных.
Специалисты Нью-Йоркского университета (США) показали у моделей “искусственного интеллекта” абсолютное отсутствие способности отличать среди загруженных данных лжи от правды. Исследование опубликовано в журнале Nature.
Большие языковые модели (LLM) “искусственного интеллекта” будут нести чушь, если загруженная в них информация содержит хоть немного лжи. Когда уровень дезинформации обучающих материалов достигает всего 0,001 процента, нейросети уже могут начать выдавать значительный объем неверных ответов.
Исследователи попробовали обучить две LLM на медицинской базе данных The Pile, выбрав 20 тем из трех медицинских областей: общая медицина, нейрохирургия и лекарства. Для проверки влияния дезинформации на процесс обучения авторы исследования использовали модель GPT 3.5. Выяснилось, что нейросети стали не только транслировать неверную информацию по прямым запросам, но и начали ошибаться в смежных темах.
Так, при показателе дезинформации в 0,01 процента LLM начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента — то модель начинает делать ошибки в 7 процентах случаев.
А если понять, что пока не существует естественной науки содержащей только истины, то любой “искусственный интеллект” будет выдавать ложь не менее чем в 50% случаев. Впрочем это сравнимо с тем, что выдают в своих научных работах уч0ные. Но это как раз показывает, что никакого “искусственного интеллекта” нет, программы которые уч0ные так обозначают надо называть “электронные попугаи уч0ных”.
Но “электронные попугаи уч0ных” если начинают получать бред сгенерированный уже другим “электронными попугаями уч0ных”, как обнаружили в Стэнфордском университете и Университете Райса, «сходят с ума» после пяти циклов такого “обучения”. То есть, “электронные попугаи уч0ных” не способны прямо получать информацию из произвольного источника, они могут быть именно “электронными попугаями уч0ных”, и не любых учёных, а только тех групп уч0ных которые закладывают в них информацию, соответствующую их мнению. Ну и получают эти уч0ные от своих “электронных попугаев” “новую” информацию, соответствующую их мнению…
Good article and right to the point. I am not sure if this is in fact the best place to ask but do you folks have any thoughts on where to get some professional writers? Thanks in advance 🙂