у меня были такие проблемы с кодировками в меню
открыть ie, посмотреть кодировку, если автомат, то снять с него галку, поэкспериментировать
если после этого все равно таже байда, декомпилить файл, поставить charset=windows-1251 в компиляторе или ручками в конфиг файле(в папке, где создается chm файл)
Хотя если интернет анлим, то лучше онлайн справки юзать