По плате нет земли(GND) с DB9 5 нога. По конкретной схеме: страшно дорогие max233 и генератор на QX(9.83) зачем?! Обычный max232 и 74НС04 с парой кварцев(9.8304 и 4,9152) раз в пять будут дешевле. Разьем для подключения желательно делать на 16 пин(MON8 interface), таблица №1 http://www.nxp.com/assets/documents/data/en/application-notes/AN2317.pdf.
Почитайте http://www.rlocman.ru/review/article.html?di=183047 и типовая схема:
hc908 programmer.pdf