Першим розмічальним інструментом була, напевне, обвуглена паличка, якою малювали зображення на стінах печери. Ранні греки та римляни користувалися шматками грифелю. Потім, приблизно у 1564 році, шахтарі знайшли біля Борровдейла (північно-західна частина Англії), м'яку сяючу речовину, якою можна було робити значно темніші позначки, ніж грифелем.
Розрізана на тонкі палички та обгорнута важкою стрічкою, речовина залишала чудові сліди. Потім, у 1779 році, вчені виявили, що чорний грифель насправді зовсім не був грифелем. Ця речовина була чистим природним вуглецем, родичем вугілля та діамантів, тому вчені дали їй нову назву - графіт. Але ми за звичкою продовжуємо називати її грифелем.
В 14 столітті художники малювали в основному паличками, виготовлювали із свинцю і жерсті, інколи їх називали "срібними олівцями". Перший опис олівця був зроблений Конрадом Геснером із Цюриха в 1565 г. в своєму "Трактаті про копалини". В ньому була приведена детальна будова олівця. Так виглядав олівець в 1565 г.
Сьогодні виробляється більше 300 видів олівців для різних видів діяльності. Можна придбати прості олівці різної твердості. Існують олівці для нанесення написів на склі, тканині, целофані, пластмасі і кіноплівці. А також є у виробництві такі, що використовуються в будівництві і залишають слід на поверхні, що знаходиться на відкритому повітрі протягом декількох років.
В кінці XVIII століття англійський парламент ввів жорстку заборону на вивіз дорогоцінного графіту з Камберленда. За порушення цієї заборони покарання було дуже суворим, аж до страти. За допомогою обробки високими температурами була досягнута висока міцність, проте ще важливішим був той факт, що зміна пропорції суміші давала можливість робити стрижні різної твердості, що і послужило основою сучасної класифікації олівців за твердістю.
Майже 2/3 матеріалу, що становить простий олівець, йде до відходів при його заточуванні. Це наштовхнуло американця Алонсо Таунсенду Кросу на створення в 1869 році металевого олівця. Графітний стрижень розміщувався в металевій трубці і міг висуватися на відповідну довжину. Цей винахід вплинув на розвиток цілої групи товарів, що використовуються сьогодні всюди. Найпростішою конструкцією є механічний олівець з грифелем 2 мм, де стрижень стримується металевими притисками — цанговий олівець. Відкриваються цанги при натиканні на кнопки на кінці олівця, що приводить до висовування на довжину, регульовану власником олівця.
59-річній німці видалили з голови олівець, що був причиною постійних головних болів і носових кровотеч, що мучили її практично все життя, повідомляє «Газета.ru». Маргрет Вегнер у віці 4 років впала з олівцем в руці. «Олівець пройшов через мою шкіру – і зник в голові», – розповіла вона журналістам. При цьому олівець не пошкодив жодної життєвої важливої частини мозку. Тоді дівчинку не зважилися прооперувати, але зараз нові технології дозволили видалити сторонній предмет. Велика частина олівця – завдовжки 8 см – була витягнута в ході операції в приватній берлінській клініці. Другий шматок завдовжки 2 см, за словами лікарів, видалити неможливо.
Найбільший у світі олівець виготовлено в Малайзії фірмою Faber-Castell. Довжина дерев'яного олівця становить близько 19,5 м. Він встановлений вертикально в спеціальній захисній скляній конструкції поряд з центральним офісом фірми в Куала-Лумпур. Цей рекорд занесений до книги рекордів Гіннеса.