После отставки в 1884 г. начал проводить опыты с двигателями внутреннего сгорания, работающими на жидком топливе. Во дворе своего дома он построил сарай, который стал мастерской. На целый ряд таких устройств им были получены привилегии (патенты). В 1889 г. им был создан первый двигатель внутреннего сгорания на жидком топливе, выдержал все испытания и даже выгодно продан. Конструктор Яковлев был приглашен на VIII съезд Русского общества естествоиспытателей и выступил там с докладом об итогах работы по созданию двигателя на жидком топливе. Дмитрий Иванович Менделеев высоко оценил работу Яковлева. Акционерное общество "Дейтц", во главе которого стоял Николаус Отто - выдающийся конструктор газовых двигателей, приобрело двигатель Яковлева. Оценка Отто была очень лестной. На двигатели стали поступать заказы. В 1891 г. было изготовлено двадцать двигателей конструкции Яковлева. Назрел вопрос о расширении производства.
В 1891 г. в Санкт-Петербурге Яковлев основал "Первый русский завод керосиновых и газовых двигателей Е. А. Яковлева", располагавшийся в Санкт-Петербурге по адресу Большая Спасская, 28. Завод выпускал нефтяные, газовые и бензиновые двигатели внутреннего сгорания, а также системы отопления на их основе. По тем временам завод был неплохо оборудован - имел паровую машину мощностью 58 сил, 20-ти сильный керосиновый двигатель и два газовых двигателя мощностью по 4 лошадиных силы. Объем выпуска составлял несколько десятков двигателей в год, а валовой оборот в 1894 г. достиг 770 тыс. рублей.
Будучи талантливым конструктором, Яковлев внедрял новые технологии. В 1893 г. Яковлев посетил Всемирную выставку в Чикаго, где продемонстрировал свои изобретения в области моторной и двигательной техники. Уже тогда у новатора Яковлева созрела мысль о моторе, который можно применить к сухопутной повозке. Увидев на выставке экипаж Бенца, Яковлев решил сам создать самоходную машину. На этой выставке Яковлев знакомится с одним из владельцев фабрики конных экипажей Неллиса - Петром Александровичем Фрезе. Яковлев и Фрезе заключают договор о совместной деятельности по разработке первой самоходной машины в России.
Прототипом автомобиля была выбрана самая маленькая модель Бенца - "Вело". Фирма "Бенц" в то время была самой крупной по меркам того времени и к концу 1893 г. она уже выпустила около 70 различных экипажей, а модель была самой раскупаемой моделью, ее простота конструкции и возможность постройки ее без специального оборудования имело немаловажное значение при выборе аналога.
Следует признать, что к тому времени автомобиль в России уже перестал быть редкой экзотикой. В 1895 г. в Петербурге было уже зарегистрировано 15 "бензиновых механических экипажей". Годом раньше в Питербурге был открыт Торговый дом Карла Шпана, ставшего представителем фирмы "Бенц".
В 1895 г. начинается строительство двухместной заднемоторной коляски с 1-цилиндровым четырехтактным двигателем. Двигатель располагался за сиденьем в специальном отсеке. Все детали были изготовлены в России на заводе Яковлева и на экипажной фабрике Фрезе. Первый русский автомобиль был современным изобретением того времени, имел массу 300 кг, мощность двигателя 2 л.с. при 500 об/мин, максимальная скорость -21 км/ч.
В майском номере за 1896 г. петербургской газете "Новое время" в рекламном объявлении сообщалось: "Новость: самодвижущиеся экипажи". Далее сообщалось "Первым русским заводом керосиновых и газовых двигателей Е. А. Яковлева" изготовлен первый русский автомобиль, который был испытан в окрестностях Петербурга и по окончании его доделки будет представлен для всеобщего обозрения на Всероссийской промышленной т художественной выставке в Нижнем Новгороде.
27 мая (9 июня) 1896 г. в Нижнем Новгороде открылась Всероссийская промышленная и художественная выставка, но в изданных по этому случаю обзорах никакой автомобиль русской постройки не значился. И лишь только в "Нижегородском листке" от 11 июня 1896 г. появилось сообщение: "Самодвижущийся экипаж: 1 июля на выставке будет демонстрироваться первый русский самодвижущийся экипаж". В том же "Нижегородском листке" от 10 июля 1896 г. было сообщено, что 19 июля императорская чета посетила выставку и: "Осмотрев кустарный отдел, их Императорские Величества прошли в отдел экипажного дела... После обзора этого отдела был демонстрирован первый русский бензиномотор", - этот же факт был подтвержден нижегородским "Волгарем" от 20 и юля того же года: "В павильон их Величества не вошли, но изволили остановиться на некоторое время у входа. В то время, когда их Величества изволили остановиться, была произведена демонстрация с самодвижущимся экипажем".
Журнал "Велосипед" в 1897 г. выходивший в С.-Петербурге, написал: "У нас в России еще года три-четыре назад ничего не было слышно о самодвижущихся экипажах и наша публика имела возможность лишь недавно с ними познакомиться и увидеть в действие во время Всероссийской выставки в Нижнем Новгороде. В том же 1896 г., 11 сентября, автомобили официально признаются и в "Собрании узаконений и распоряжений правительства", где опубликованы правила об условиях перевозки тяжестей и пассажиров по шоссе ведомства путей сообщения в самодвижущихся экипажах". Яковлев умер в 1898 г.