Искусственный интеллект научился объяснять причины своих действий
Исследователи из разных стран научили искусственный интеллект объяснять принцип своей работы. Новые знания помогут укрепить доверие между людьми и машинным разумом.
Международная группа исследователей и команда Facebook AI Research обучили искусственный интеллект объяснять причины своих действий. Понимание принципов работы ИИ позволит людям лучше его контролировать и не допустить «восстания машин».
Искусственный интеллект и задачи для детей
Исследователи создали специальный тест, который рассчитан на уровень развития девятилетнего ребенка. Каждый этап испытания состоял из фотографии и вопроса с двумя вариантами ответа. ИИ должен был определить, что изображено на фото, и выделить объект, который доказывает правильность его выбора.
Например, утвердительно ответив на вопрос «Это зоопарк?», искусственный интеллект подсветил ограждение. Это значит, что ИИ сравнил два изображения на наличие ограды и понял: если животные находятся за ней, значит, это зоопарк. Возникли и ошибки: компьютер не смог определить эмоцию на лице человека и не нашел разницы между рисованием картины и уборкой комнаты.
Изучение принципов работы искусственного интеллекта помогает выявить свойства, которые в будущем могут стать причиной серьезных проблем. В 2017 году группа из Принстонского университета обнаружила, что ИИ склонен к предвзятому отношению к людям на основе их пола и расы.
6К открытий6К показов
Пользователи GPT-4 пожаловались, что модель поначалу была медленной, но очень точной. Теперь GPT-4 стала быстрее, но глупее.
Собрали дайджест из материалов по Python с 15 по 30 апреля. Узнайте, как подключить AutoGPT проекту, как изменился Django и как обучить GPT-4.
Компания Group-IB обнаружила данные со 101 134 взломанных устройств в даркнете с сохраненными учетными данными ChatGPT.
Нашли на GitHub модель, которая самостоятельно генерирует видеоуроки: весь видеоряд, включая лектора, помещение и слайд-видео с информацией.