Искусственный интеллект научился объяснять причины своих действий
Новости
Исследователи из разных стран научили искусственный интеллект объяснять принцип своей работы. Новые знания помогут укрепить доверие между людьми и машинным разумом.
6К открытий6К показов
Международная группа исследователей и команда Facebook AI Research обучили искусственный интеллект объяснять причины своих действий. Понимание принципов работы ИИ позволит людям лучше его контролировать и не допустить «восстания машин».
Искусственный интеллект и задачи для детей
Исследователи создали специальный тест, который рассчитан на уровень развития девятилетнего ребенка. Каждый этап испытания состоял из фотографии и вопроса с двумя вариантами ответа. ИИ должен был определить, что изображено на фото, и выделить объект, который доказывает правильность его выбора.
Например, утвердительно ответив на вопрос «Это зоопарк?», искусственный интеллект подсветил ограждение. Это значит, что ИИ сравнил два изображения на наличие ограды и понял: если животные находятся за ней, значит, это зоопарк. Возникли и ошибки: компьютер не смог определить эмоцию на лице человека и не нашел разницы между рисованием картины и уборкой комнаты.
Изучение принципов работы искусственного интеллекта помогает выявить свойства, которые в будущем могут стать причиной серьезных проблем. В 2017 году группа из Принстонского университета обнаружила, что ИИ склонен к предвзятому отношению к людям на основе их пола и расы.
6К открытий6К показов
Сооснователь OpenAI Илья Суцкевер может вернуться в Россию и начать работу над неизвестным крупным проектом в стенах одного из банков страны
По данным отчета «Octoverse 2024», Python обошел JavaScript и занял первое место среди языков программирования на GitHub благодаря своей универсальности и широкому применению в анализе данных, веб-разработке и искусственном интеллекте
В России немало компаний, которые создают собственные языковые модели. И чтобы их протестировать, нужны специальные русскоязычные тесты. Именно эту потребность закрывает новый бенчмарк LLM Arena
В 2024 году OpenAI планирует выпустить GPT Next — модель, в 100 раз мощнее GPT-4. Руководитель японского отделения компании заявил, что новинка станет значительным шагом к созданию общего искусственного интеллекта (AGI)