82   VRegister dst = VRegisterFrom(locations->Out());  in VisitVecReplicateScalar()  local
89         __ Movi(dst.V16B(), Int64FromLocation(src_loc));  in VisitVecReplicateScalar()
91         __ Dup(dst.V16B(), InputRegisterAt(instruction, 0));  in VisitVecReplicateScalar()
98         __ Movi(dst.V8H(), Int64FromLocation(src_loc));  in VisitVecReplicateScalar()
100         __ Dup(dst.V8H(), InputRegisterAt(instruction, 0));  in VisitVecReplicateScalar()
106         __ Movi(dst.V4S(), Int64FromLocation(src_loc));  in VisitVecReplicateScalar()
108         __ Dup(dst.V4S(), InputRegisterAt(instruction, 0));  in VisitVecReplicateScalar()
114         __ Movi(dst.V2D(), Int64FromLocation(src_loc));  in VisitVecReplicateScalar()
116         __ Dup(dst.V2D(), XRegisterFrom(src_loc));  in VisitVecReplicateScalar()
122         __ Fmov(dst.V4S(), src_loc.GetConstant()->AsFloatConstant()->GetValue());  in VisitVecReplicateScalar()
124         __ Dup(dst.V4S(), VRegisterFrom(src_loc).V4S(), 0);  in VisitVecReplicateScalar()
130         __ Fmov(dst.V2D(), src_loc.GetConstant()->AsDoubleConstant()->GetValue());  in VisitVecReplicateScalar()
132         __ Dup(dst.V2D(), VRegisterFrom(src_loc).V2D(), 0);  in VisitVecReplicateScalar()
223   VRegister dst = DRegisterFrom(locations->Out());  in VisitVecReduce()  local
229           __ Addv(dst.S(), src.V4S());  in VisitVecReduce()
232           __ Sminv(dst.S(), src.V4S());  in VisitVecReduce()
235           __ Smaxv(dst.S(), src.V4S());  in VisitVecReduce()
243           __ Addp(dst.D(), src.V2D());  in VisitVecReduce()
263   VRegister dst = VRegisterFrom(locations->Out());  in VisitVecCnv()  local
268     __ Scvtf(dst.V4S(), src.V4S());  in VisitVecCnv()
281   VRegister dst = VRegisterFrom(locations->Out());  in VisitVecNeg()  local
286       __ Neg(dst.V16B(), src.V16B());  in VisitVecNeg()
291       __ Neg(dst.V8H(), src.V8H());  in VisitVecNeg()
295       __ Neg(dst.V4S(), src.V4S());  in VisitVecNeg()
299       __ Neg(dst.V2D(), src.V2D());  in VisitVecNeg()
303       __ Fneg(dst.V4S(), src.V4S());  in VisitVecNeg()
307       __ Fneg(dst.V2D(), src.V2D());  in VisitVecNeg()
322   VRegister dst = VRegisterFrom(locations->Out());  in VisitVecAbs()  local
326       __ Abs(dst.V16B(), src.V16B());  in VisitVecAbs()
330       __ Abs(dst.V8H(), src.V8H());  in VisitVecAbs()
334       __ Abs(dst.V4S(), src.V4S());  in VisitVecAbs()
338       __ Abs(dst.V2D(), src.V2D());  in VisitVecAbs()
342       __ Fabs(dst.V4S(), src.V4S());  in VisitVecAbs()
346       __ Fabs(dst.V2D(), src.V2D());  in VisitVecAbs()
361   VRegister dst = VRegisterFrom(locations->Out());  in VisitVecNot()  local
365       __ Movi(dst.V16B(), 1);  in VisitVecNot()
366       __ Eor(dst.V16B(), dst.V16B(), src.V16B());  in VisitVecNot()
374       __ Not(dst.V16B(), src.V16B());  // lanes do not matter  in VisitVecNot()
413   VRegister dst = VRegisterFrom(locations->Out());  in VisitVecAdd()  local
418       __ Add(dst.V16B(), lhs.V16B(), rhs.V16B());  in VisitVecAdd()
423       __ Add(dst.V8H(), lhs.V8H(), rhs.V8H());  in VisitVecAdd()
427       __ Add(dst.V4S(), lhs.V4S(), rhs.V4S());  in VisitVecAdd()
431       __ Add(dst.V2D(), lhs.V2D(), rhs.V2D());  in VisitVecAdd()
435       __ Fadd(dst.V4S(), lhs.V4S(), rhs.V4S());  in VisitVecAdd()
439       __ Fadd(dst.V2D(), lhs.V2D(), rhs.V2D());  in VisitVecAdd()
455   VRegister dst = VRegisterFrom(locations->Out());  in VisitVecSaturationAdd()  local
459       __ Uqadd(dst.V16B(), lhs.V16B(), rhs.V16B());  in VisitVecSaturationAdd()
463       __ Sqadd(dst.V16B(), lhs.V16B(), rhs.V16B());  in VisitVecSaturationAdd()
467       __ Uqadd(dst.V8H(), lhs.V8H(), rhs.V8H());  in VisitVecSaturationAdd()
471       __ Sqadd(dst.V8H(), lhs.V8H(), rhs.V8H());  in VisitVecSaturationAdd()
487   VRegister dst = VRegisterFrom(locations->Out());  in VisitVecHalvingAdd()  local
492           ? __ Urhadd(dst.V16B(), lhs.V16B(), rhs.V16B())  in VisitVecHalvingAdd()
493           : __ Uhadd(dst.V16B(), lhs.V16B(), rhs.V16B());  in VisitVecHalvingAdd()
498           ? __ Srhadd(dst.V16B(), lhs.V16B(), rhs.V16B())  in VisitVecHalvingAdd()
499           : __ Shadd(dst.V16B(), lhs.V16B(), rhs.V16B());  in VisitVecHalvingAdd()
504           ? __ Urhadd(dst.V8H(), lhs.V8H(), rhs.V8H())  in VisitVecHalvingAdd()
505           : __ Uhadd(dst.V8H(), lhs.V8H(), rhs.V8H());  in VisitVecHalvingAdd()
510           ? __ Srhadd(dst.V8H(), lhs.V8H(), rhs.V8H())  in VisitVecHalvingAdd()
511           : __ Shadd(dst.V8H(), lhs.V8H(), rhs.V8H());  in VisitVecHalvingAdd()
527   VRegister dst = VRegisterFrom(locations->Out());  in VisitVecSub()  local
532       __ Sub(dst.V16B(), lhs.V16B(), rhs.V16B());  in VisitVecSub()
537       __ Sub(dst.V8H(), lhs.V8H(), rhs.V8H());  in VisitVecSub()
541       __ Sub(dst.V4S(), lhs.V4S(), rhs.V4S());  in VisitVecSub()
545       __ Sub(dst.V2D(), lhs.V2D(), rhs.V2D());  in VisitVecSub()
549       __ Fsub(dst.V4S(), lhs.V4S(), rhs.V4S());  in VisitVecSub()
553       __ Fsub(dst.V2D(), lhs.V2D(), rhs.V2D());  in VisitVecSub()
569   VRegister dst = VRegisterFrom(locations->Out());  in VisitVecSaturationSub()  local
573       __ Uqsub(dst.V16B(), lhs.V16B(), rhs.V16B());  in VisitVecSaturationSub()
577       __ Sqsub(dst.V16B(), lhs.V16B(), rhs.V16B());  in VisitVecSaturationSub()
581       __ Uqsub(dst.V8H(), lhs.V8H(), rhs.V8H());  in VisitVecSaturationSub()
585       __ Sqsub(dst.V8H(), lhs.V8H(), rhs.V8H());  in VisitVecSaturationSub()
601   VRegister dst = VRegisterFrom(locations->Out());  in VisitVecMul()  local
606       __ Mul(dst.V16B(), lhs.V16B(), rhs.V16B());  in VisitVecMul()
611       __ Mul(dst.V8H(), lhs.V8H(), rhs.V8H());  in VisitVecMul()
615       __ Mul(dst.V4S(), lhs.V4S(), rhs.V4S());  in VisitVecMul()
619       __ Fmul(dst.V4S(), lhs.V4S(), rhs.V4S());  in VisitVecMul()
623       __ Fmul(dst.V2D(), lhs.V2D(), rhs.V2D());  in VisitVecMul()
639   VRegister dst = VRegisterFrom(locations->Out());  in VisitVecDiv()  local
643       __ Fdiv(dst.V4S(), lhs.V4S(), rhs.V4S());  in VisitVecDiv()
647       __ Fdiv(dst.V2D(), lhs.V2D(), rhs.V2D());  in VisitVecDiv()
663   VRegister dst = VRegisterFrom(locations->Out());  in VisitVecMin()  local
667       __ Umin(dst.V16B(), lhs.V16B(), rhs.V16B());  in VisitVecMin()
671       __ Smin(dst.V16B(), lhs.V16B(), rhs.V16B());  in VisitVecMin()
675       __ Umin(dst.V8H(), lhs.V8H(), rhs.V8H());  in VisitVecMin()
679       __ Smin(dst.V8H(), lhs.V8H(), rhs.V8H());  in VisitVecMin()
683       __ Umin(dst.V4S(), lhs.V4S(), rhs.V4S());  in VisitVecMin()
687       __ Smin(dst.V4S(), lhs.V4S(), rhs.V4S());  in VisitVecMin()
691       __ Fmin(dst.V4S(), lhs.V4S(), rhs.V4S());  in VisitVecMin()
695       __ Fmin(dst.V2D(), lhs.V2D(), rhs.V2D());  in VisitVecMin()
711   VRegister dst = VRegisterFrom(locations->Out());  in VisitVecMax()  local
715       __ Umax(dst.V16B(), lhs.V16B(), rhs.V16B());  in VisitVecMax()
719       __ Smax(dst.V16B(), lhs.V16B(), rhs.V16B());  in VisitVecMax()
723       __ Umax(dst.V8H(), lhs.V8H(), rhs.V8H());  in VisitVecMax()
727       __ Smax(dst.V8H(), lhs.V8H(), rhs.V8H());  in VisitVecMax()
731       __ Umax(dst.V4S(), lhs.V4S(), rhs.V4S());  in VisitVecMax()
735       __ Smax(dst.V4S(), lhs.V4S(), rhs.V4S());  in VisitVecMax()
739       __ Fmax(dst.V4S(), lhs.V4S(), rhs.V4S());  in VisitVecMax()
743       __ Fmax(dst.V2D(), lhs.V2D(), rhs.V2D());  in VisitVecMax()
760   VRegister dst = VRegisterFrom(locations->Out());  in VisitVecAnd()  local
771       __ And(dst.V16B(), lhs.V16B(), rhs.V16B());  // lanes do not matter  in VisitVecAnd()
796   VRegister dst = VRegisterFrom(locations->Out());  in VisitVecOr()  local
807       __ Orr(dst.V16B(), lhs.V16B(), rhs.V16B());  // lanes do not matter  in VisitVecOr()
823   VRegister dst = VRegisterFrom(locations->Out());  in VisitVecXor()  local
834       __ Eor(dst.V16B(), lhs.V16B(), rhs.V16B());  // lanes do not matter  in VisitVecXor()
869   VRegister dst = VRegisterFrom(locations->Out());  in VisitVecShl()  local
875       __ Shl(dst.V16B(), lhs.V16B(), value);  in VisitVecShl()
880       __ Shl(dst.V8H(), lhs.V8H(), value);  in VisitVecShl()
884       __ Shl(dst.V4S(), lhs.V4S(), value);  in VisitVecShl()
888       __ Shl(dst.V2D(), lhs.V2D(), value);  in VisitVecShl()
903   VRegister dst = VRegisterFrom(locations->Out());  in VisitVecShr()  local
909       __ Sshr(dst.V16B(), lhs.V16B(), value);  in VisitVecShr()
914       __ Sshr(dst.V8H(), lhs.V8H(), value);  in VisitVecShr()
918       __ Sshr(dst.V4S(), lhs.V4S(), value);  in VisitVecShr()
922       __ Sshr(dst.V2D(), lhs.V2D(), value);  in VisitVecShr()
937   VRegister dst = VRegisterFrom(locations->Out());  in VisitVecUShr()  local
943       __ Ushr(dst.V16B(), lhs.V16B(), value);  in VisitVecUShr()
948       __ Ushr(dst.V8H(), lhs.V8H(), value);  in VisitVecUShr()
952       __ Ushr(dst.V4S(), lhs.V4S(), value);  in VisitVecUShr()
956       __ Ushr(dst.V2D(), lhs.V2D(), value);  in VisitVecUShr()
998   VRegister dst = VRegisterFrom(locations->Out());  in VisitVecSetScalars()  local
1003   __ Movi(dst.V16B(), 0);  in VisitVecSetScalars()
1016       __ Mov(dst.V16B(), 0, InputRegisterAt(instruction, 0));  in VisitVecSetScalars()
1021       __ Mov(dst.V8H(), 0, InputRegisterAt(instruction, 0));  in VisitVecSetScalars()
1025       __ Mov(dst.V4S(), 0, InputRegisterAt(instruction, 0));  in VisitVecSetScalars()
1029       __ Mov(dst.V2D(), 0, InputRegisterAt(instruction, 0));  in VisitVecSetScalars()