[wvxvw]

Это вообще очень интересная и обширная тема, не полностью изученая и по сей день. С биологической точки зрения наука еще не совсем понимает как работает глаз, и как именно это совмещается с памятью, и "узнаванием".
Есть несколько традиционных подходов к решению проблемы:
в первую очередь ищите информацию про machine learning. Это под-группа вообще всего, что связано с искусственным интеллектом.
Так вот, первый подход: через обучение. Т.е. компьютеру скармливается много образцов символов, каждый образец компьютер пытается распознать и отнести к какой-то категории, за что получает оценку, и на этом учится. Вариантов как создать такую обучающую систему, популярных есть два: нейронные сети (ищите проект fann - это реализация нейронных сетей с исходниками, изначально на Си, но есть и много переделок / обвязок для других языков). Или, есть еще подход называемый support vector machine.
Такой вариант будет больше всего похожим на человека, в том смысле, что компьютер не только "заучивает" правильные ответы, а выстраивает целую систему распознавания.
Можно, конечно и схитрить, и сделать часть работы вместо компьютера, это возможно будет даже проще изначально, но качество распознавания неизвестных ранее символов будет плохим.