07 дек 14:44Другое

Создана технология для предотвращения восстания машин

Команда ученых-разработчиков закончила создание специальной технологии, не дающей роботам под управлением искусственного интеллекта (ИИ) выходить из-под человеческого контроля.

Так, группа ученых из Федеральной Политехнической школы Лозанны (EPFL, Швейцария) разработала новый способ прерывания работы ИИ так, чтобы тот не пытался его обойти.


Ранее дилемма состояла в том, что в базовые алгоритмы обучения любого ИИ внесена задача «поиска способов обойти препятствия» — это ключевая функция в обучении, и избавиться от нее нельзя.

Суть в том, что вмешательство человека для корректировки кода, или чистки памяти ИИ от вредоносной информации, сама программа считает помехой, и хотя сейчас машины не могут «запереть» вход в свой код окончательно, именно это может сыграть зловещую роль в будущем.

Это интересно: Google представила смартфон за $25

На данный момент есть множество методик по обучению ИИ, но все они несовершенны, тем более, если робот в процессе обучения наблюдает или содействует с людьми.

Например, регулярны случаи, когда чат-боты, призванные обучаться у людей, начинают выдавать человеконенавистнические фразы. Понятно, что такие вещи нужно чистить из памяти ИИ, и искать, в чем была ошибка при составлении кода.

Беда в том, что ранее это прерывало процесс обучения и вызывало «недовольство» ИИ, стимулируя его начинать новое обучение с попыток обхода старого способа проникновения в свой код. Новый же алгоритм разработан таким образом, чтобы ИИ считал его не как помеху, которую необходимо преодолеть в процессе обучения, а как часть самого обучения, предоставляя человеку свободный доступ к памяти для очистки той от нежелательной или вредоносной информации.+

Такая разработка обещает уменьшить время на обучения контактирующих с людьми или информационным полем роботов, что приближает нас на еще один шаг к глобальной роботизации все большего количества отраслей.

Это интересно: Через пять лет в каждом университете будет курс блокчейна

enki.ua


По материалам: newsyou
Загрузка...

Xiaomi представила смартфон Mi A1

Xiaomi представила смартфон Mi A1
Смартфон работает на Android без фирменной прошивки компании. Xiaomi Mi A1 работает по управлением «чистого» Android© 4pda.ru Компания Xiaomi представила в Нью Дели свой новый смартфон Mi A1, главной особенностью которого стало отказ от фирменной прошивки MIUI. Смартфон был разработан в сотрудничестве с компанией Google рамках программы Android One, то есть, он работает на «чистом» Android.Это интересно: ... ПОДРОБНЕЕ →

Программисты из Google научили искусственный интеллект паркуру

Программисты из Google научили искусственный интеллект паркуру
Алгоритм искусственного интеллекта, который создали в DeepMind (подразделение Google), научился преодолевать различные препятствия в виртуальной реальности. Специалисты Google, использую метод обучения с подкреплением, создали систему искусственного интеллекта, которая научилась преодолевать препятствия и перемещаться по незнакомой местности. Искусственный интеллект самостоятельно обучился всем действиям... ПОДРОБНЕЕ →

Учёные научили искусственный интеллект создавать народную музыку

Учёные научили искусственный интеллект создавать народную музыку
Учёные из Федеральной политехнической школы Лозанны превратили искусственный интеллект в композитора. На данный момент алгоритм радует разработчиков народной музыкой. Искусственный интеллект, создающий музыку, получил название DAC. На данный момент алгоритм радует разработчиков уникальными композициями ирландской и клезмерской мелодий. Все работы искусственного интеллекта оригинальны и не повторяют ... ПОДРОБНЕЕ →

Ученые приблизились к созданию искусственного человеческого мозга

Ученые приблизились к созданию искусственного человеческого мозга
Исследователи из Франции и Университета Арканзаса создали искусственный синапс, способный к автономному обучению, компоненту искусственного интеллекта. Открытие открывает двери для построения больших сетей, которые работают так же, как человеческий мозг. Люди заинтересованы в создании искусственных сетей мозга в будущем. Это исследование является фундаментальным достижением», - сказал Бин Ксу, научный сотрудник ... ПОДРОБНЕЕ →

Ученые: искусственный интеллект теперь умеет следовать инструкциям на английском

Ученые: искусственный интеллект теперь умеет следовать инструкциям на английском
Калифорнийская команда ученых из Стэнфордского университета изобрели систему искусственного интеллекта, которая умеет различать команды и следовать им. Таким образом, машина может пройти игру «Месть Монтесумы», следуя простым инструкциям на обычном английском языке. Игра является действительно сложной для системы, так как задача игры – собрать редкие награды, заставляя игроков делать ходы, прежде чем они смогут ... ПОДРОБНЕЕ →
Добавить комментарий
Ваше Имя:
Ваш E-Mail:
Введите два слова, показанных на изображении: *