Buenas, vengo a contar mi experiencia con este driver en linux.
Hace unos días me llegó un adaptador wifi AC (comprado en aliexpress con chipset rtl8812au bastante pequeño para poderlo usar junto a una raspi sin mucho problema).
Principal problema que he encontrado ha sido el tema de drivers ya que aún no se incluyen en el kernel. Después de muchas pruebas (creo que he probado casi todos los que hay por github) el que mejor resultado me ha dado ha sido
https://github.com/diederikdehaas/rtl8812AU/tree/driver-4.3.22-beta aunque he tenido que modificar parte del código ya que se producía un error de stack overflow en el kernel cuando la tarjeta estaba en modo monitor y se cambiaba de canal.
Concretamente si hacía
iwconfig wlan0 mode monitor
iwconfig wlan0 channel 1
Petaba, mirando en dmesg creo que he conseguido ver porque petaba y evitar que pete (no se si de la mejor forma posible) añadiendo un simple else.
Gracias a este cambio he conseguido que la tarjeta inyecte paquetes (a ratos xD).
La modificación la he subido aquí
https://github.com/gorebrau/rtl8812AU/tree/driver-4.3.22-betaSi lo queréis probar:
git clone -b driver-4.3.22-beta https://github.com/gorebrau/rtl8812AU/
cd rtl8812AU
make
instmod 8812au.ko
Para iniciar modo monitor con iwconfig
iwconfig wlan0 mode monitor
Para definir el canal lo mismo con iwconfig
iwconfig wlan0 channel 1
Uno de los problemas que tengo por ahora es que la tarjeta debe de cambiar de canal de vez en cuando y se pierde la habilidad de inyectar (o a saber que hace), a veces se arregla escribiendo:
iwconfig wlan0 mode monitor
iwconfig wlan0 channel 1 (o el canal que dese inyectar o escanear)
Pero no siempre funciona, no obstante he hecho algunas pruebas. En este video capturo el handshake de mi red (5GHz) y posteriormente con mdk3 inhibo esa señal (más o menos lo que haría algún script como Linset), solo que sin montar el AP.
Ejecuto las pruebas en wifislax 64 instalado en una máquina virtual (VirtualBox), sobre sistema operativo Ubuntu.

De lo que he probado:
Funcionan:
airodoump-ng aireplay-ng wash mdk3
No funcionan:
airmon-ng reaver
Lo he probado en wifislax, ubuntu, raspbian y va "bien" en todos. No he probado con protocolo WEP, ahora ando en casa de la familia y los routers los tengo en mi domicilio.
Saludos
PD: No se si ya se ha publicado algo sobre inyección con rtl8812au (espero no haber patinado).
PD2: a ver si con el tiempo me da para mirar un poco más a fondo el tema y mejorar lo que vaya viendo.