Del VPN olvídate, solo sirve para accesos remotos, en una red local (LAN) no sirven. Perdón por el despiste.
Un protocolo de comunicaciones es un conjunto de normas que están obligadas a cumplir todos las máquinas y programas que intervienen en una comunicación de datos entre ordenadores sin las cuales la comunicación resultaría caótica y por tanto imposible.
el protocolo mas conocido es el TCP/IP, sin el cual no podrías navegar por internet.
¿cuanto se tardan en descifrar? pues eso depende del tipo de cifrado, puede llevarte unos pocos minutos o varios miles de años.
Lo que preguntas es largo, complejo de explicar y tiene que ver mas con el Hacking que no con la seguirdad wireless, mi recomendación es que visites el foro amigo
foro.elhacker.net. Ahí encontraras manuales detallados de todo lo necesario para protegerte e incluso para contraatacar.