Библиотека 32-битная, приложение на VB.NET запускается как 64-битное, и при попытке загрузить библиотеку выдает ошибку. Достаточно завести в проекте конфигурацию для x86 вместо AnyCPU и будет вам счастье.
третий результат сверху при поиски текста ошибки в гугле все это объясняет: http://social.technet.microsoft.com/...43a38/-dll-c-c
PS регистрировать библиотеку совершенно бесполезно -- это не COM.