include/lightning/lightning.h

   1 /*
   2  * Copyright (C) 2012-2023  Free Software Foundation, Inc.
   3  *
   4  * This file is part of GNU lightning.
   5  *
   6  * GNU lightning is free software; you can redistribute it and/or modify it
   7  * under the terms of the GNU Lesser General Public License as published
   8  * by the Free Software Foundation; either version 3, or (at your option)
   9  * any later version.
  10  *
  11  * GNU lightning is distributed in the hope that it will be useful, but
  12  * WITHOUT ANY WARRANTY; without even the implied warranty of MERCHANTABILITY
  13  * or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU Lesser General Public
  14  * License for more details.
  15  *
  16  * Authors:
  17  *      Paulo Cesar Pereira de Andrade
  18  */
  19
  20 #ifndef _lightning_h
  21 #define _lightning_h
  22
  23 #include <unistd.h>
  24 #include <stdlib.h>
  25 #include <stdint.h>
  26 #include <string.h>
  27 #include <pthread.h>
  28
  29 #if defined(__hpux) && defined(__hppa__)
  30 #  include <machine/param.h>
  31 #endif
  32 #if defined(__alpha__) && defined(__osf__)
  33 #  include <machine/endian.h>
  34 #endif
  35
  36 #ifndef __WORDSIZE
  37 #  if defined(WORDSIZE)                         /* ppc darwin */
  38 #    define __WORDSIZE          WORDSIZE
  39 #  elif defined(__SIZEOF_POINTER__)             /* ppc aix */
  40 #    define __WORDSIZE          (__SIZEOF_POINTER__ << 3)
  41 #  elif defined(_ILP32)                         /* hppa hp-ux */
  42 #    define __WORDSIZE          32
  43 #  elif defined(_LP64)                          /* ia64 hp-ux (with cc +DD64) */
  44 #    define __WORDSIZE          64
  45 #  elif defined(_MIPS_SZPTR)                    /* mips irix */
  46 #    if _MIPS_SZPTR == 32
  47 #      define __WORDSIZE        32
  48 #    else
  49 #      define __WORDSIZE        64
  50 #    endif
  51 #  else                                         /* From FreeBSD 9.1 stdint.h */
  52 #    if defined(UINTPTR_MAX) && defined(UINT64_MAX) && \
  53         (UINTPTR_MAX == UINT64_MAX)
  54 #      define __WORDSIZE        64
  55 #    else
  56 #      define __WORDSIZE        32
  57 #    endif
  58 #  endif
  59 #endif
  60 #ifndef __LITTLE_ENDIAN
  61 #  if defined(LITTLE_ENDIAN)                    /* ppc darwin */
  62 #    define __LITTLE_ENDIAN     LITTLE_ENDIAN
  63 #  elif defined(__ORDER_LITTLE_ENDIAN__)        /* ppc aix */
  64 #    define __LITTLE_ENDIAN     __ORDER_LITTLE_ENDIAN__
  65 #  else
  66 #    define __LITTLE_ENDIAN     1234
  67 #  endif
  68 #endif
  69 #ifndef __BIG_ENDIAN
  70 #  if defined(BIG_ENDIAN)                       /* ppc darwin */
  71 #    define __BIG_ENDIAN        BIG_ENDIAN
  72 #  elif defined(__ORDER_BIG_ENDIAN__)           /* ppc aix */
  73 #    define __BIG_ENDIAN        __ORDER_BIG_ENDIAN__
  74 #  else
  75 #    define __BIG_ENDIAN        4321
  76 #  endif
  77 #endif
  78 #ifndef __BYTE_ORDER
  79 #  if defined(BYTE_ORDER)                       /* ppc darwin */
  80 #    define __BYTE_ORDER        BYTE_ORDER
  81 #  elif defined(__BYTE_ORDER__)                 /* ppc aix */
  82 #    define __BYTE_ORDER        __BYTE_ORDER__
  83 #  elif defined(_BIG_ENDIAN)                    /* hppa hp-ux */
  84 #    define __BYTE_ORDER        __BIG_ENDIAN
  85 #  elif defined(__BIG_ENDIAN__)                 /* ia64 hp-ux */
  86 #    define __BYTE_ORDER        __BIG_ENDIAN
  87 #  elif defined(__i386__)                       /* 32 bit x86 solaris */
  88 #    define __BYTE_ORDER        __LITTLE_ENDIAN
  89 #  elif defined(__x86_64__)                     /* 64 bit x86 solaris */
  90 #    define __BYTE_ORDER        __LITTLE_ENDIAN
  91 #  elif defined(__MIPSEB)                       /* mips irix */
  92 #    define __BYTE_ORDER        __BIG_ENDIAN
  93 #  else
  94 #    error cannot figure __BYTE_ORDER
  95 #  endif
  96 #endif
  97
  98 typedef signed char             jit_int8_t;
  99 typedef unsigned char           jit_uint8_t;
 100 typedef signed short            jit_int16_t;
 101 typedef unsigned short          jit_uint16_t;
 102 typedef signed int              jit_int32_t;
 103 typedef unsigned int            jit_uint32_t;
 104 #if __WORDSIZE == 32
 105 typedef signed long long        jit_int64_t;
 106 typedef unsigned long long      jit_uint64_t;
 107 typedef jit_int32_t             jit_word_t;
 108 typedef jit_uint32_t            jit_uword_t;
 109 #elif (_WIN32 && !__CYGWIN__)
 110 typedef signed long long        jit_int64_t;
 111 typedef unsigned long long      jit_uint64_t;
 112 typedef jit_int64_t             jit_word_t;
 113 typedef jit_uint64_t            jit_uword_t;
 114 #else
 115 typedef signed long             jit_int64_t;
 116 typedef unsigned long           jit_uint64_t;
 117 typedef jit_int64_t             jit_word_t;
 118 typedef jit_uint64_t            jit_uword_t;
 119 #endif
 120 typedef float                   jit_float32_t;
 121 typedef double                  jit_float64_t;
 122 typedef void*                   jit_pointer_t;
 123 typedef jit_int32_t             jit_bool_t;
 124 typedef jit_int32_t             jit_gpr_t;
 125 typedef jit_int32_t             jit_fpr_t;
 126
 127 #if !defined(__powerpc__) && \
 128         (defined(__POWERPC__) || defined(__ppc__) || defined(__PPC__))
 129 #define __powerpc__ 1
 130 #endif
 131
 132 #if defined(__i386__) || defined(__x86_64__)
 133 #  include <lightning/jit_x86.h>
 134 #elif defined(__mips__)
 135 #  include <lightning/jit_mips.h>
 136 #elif defined(__arm__)
 137 #  include <lightning/jit_arm.h>
 138 #elif defined(__powerpc__)
 139 #  include <lightning/jit_ppc.h>
 140 #elif defined(__sparc__)
 141 #  include <lightning/jit_sparc.h>
 142 #elif defined(__ia64__)
 143 #  include <lightning/jit_ia64.h>
 144 #elif defined(__hppa__)
 145 #  include <lightning/jit_hppa.h>
 146 #elif defined(__aarch64__)
 147 #  include <lightning/jit_aarch64.h>
 148 #elif defined(__s390__) || defined(__s390x__)
 149 #  include <lightning/jit_s390.h>
 150 #elif defined(__alpha__)
 151 #  include <lightning/jit_alpha.h>
 152 #elif defined(__riscv)
 153 #  include <lightning/jit_riscv.h>
 154 #elif defined(__loongarch__)
 155 #  include <lightning/jit_loongarch.h>
 156 #endif
 157
 158 #define jit_flag_node           0x0001  /* patch node not absolute */
 159 #define jit_flag_patch          0x0002  /* jump already patched */
 160 #define jit_flag_data           0x0004  /* data in the constant pool */
 161 #define jit_flag_use            0x0008  /* do not remove marker label */
 162 #define jit_flag_synth          0x0010  /* synthesized instruction */
 163 #define jit_flag_head           0x1000  /* label reached by normal flow */
 164 #define jit_flag_varargs        0x2000  /* call{r,i} to varargs function */
 165
 166 #define JIT_R(index)            jit_r(index)
 167 #define JIT_V(index)            jit_v(index)
 168 #define JIT_F(index)            jit_f(index)
 169 #define JIT_R_NUM               jit_r_num()
 170 #define JIT_V_NUM               jit_v_num()
 171 #define JIT_F_NUM               jit_f_num()
 172
 173 #define JIT_DISABLE_DATA        1       /* force synthesize of constants */
 174 #define JIT_DISABLE_NOTE        2       /* disable debug info generation */
 175
 176 #define jit_class_chk           0x02000000      /* just checking */
 177 #define jit_class_arg           0x08000000      /* argument register */
 178 #define jit_class_sav           0x10000000      /* callee save */
 179 #define jit_class_gpr           0x20000000      /* general purpose */
 180 #define jit_class_fpr           0x40000000      /* float */
 181 #define jit_class(reg)          ((reg) & 0xffff0000)
 182 #define jit_regno(reg)          ((reg) & 0x00007fff)
 183
 184 typedef struct jit_node         jit_node_t;
 185 typedef struct jit_state        jit_state_t;
 186
 187 typedef enum {
 188     jit_code_data,
 189 #define jit_live(u)             jit_new_node_w(jit_code_live, u)
 190 #define jit_align(u)            jit_new_node_w(jit_code_align, u)
 191     jit_code_live,              jit_code_align,
 192     jit_code_save,              jit_code_load,
 193 #define jit_skip(u)             jit_new_node_w(jit_code_skip, u)
 194     jit_code_skip,
 195 #define jit_name(u)             _jit_name(_jit,u)
 196     jit_code_name,
 197 #define jit_note(u, v)          _jit_note(_jit, u, v)
 198 #define jit_label()             _jit_label(_jit)
 199 #define jit_forward()           _jit_forward(_jit)
 200 #define jit_indirect()          _jit_indirect(_jit)
 201 #define jit_link(u)             _jit_link(_jit,u)
 202     jit_code_note,              jit_code_label,
 203
 204 #define jit_prolog()            _jit_prolog(_jit)
 205     jit_code_prolog,
 206
 207 #define jit_ellipsis()          _jit_ellipsis(_jit)
 208     jit_code_ellipsis,
 209 #define jit_va_push(u)          _jit_va_push(_jit,u)
 210     jit_code_va_push,
 211 #define jit_allocai(u)          _jit_allocai(_jit,u)
 212 #define jit_allocar(u, v)       _jit_allocar(_jit,u,v)
 213     jit_code_allocai,           jit_code_allocar,
 214
 215 #define jit_arg_c()             _jit_arg(_jit, jit_code_arg_c)
 216 #define jit_arg_s()             _jit_arg(_jit, jit_code_arg_s)
 217 #define jit_arg_i()             _jit_arg(_jit, jit_code_arg_i)
 218 # if __WORDSIZE == 32
 219 #  define jit_arg()             jit_arg_i()
 220 #else
 221 #  define jit_arg_l()           _jit_arg(_jit, jit_code_arg_l)
 222 #  define jit_arg()             jit_arg_l()
 223 #endif
 224     jit_code_arg_c,             jit_code_arg_s,
 225     jit_code_arg_i,             jit_code_arg_l,
 226 #if __WORDSIZE == 32
 227 #  define jit_code_arg          jit_code_arg_i
 228 #else
 229 #  define jit_code_arg          jit_code_arg_l
 230 #endif
 231
 232 #define jit_getarg_c(u,v)       _jit_getarg_c(_jit,u,v)
 233 #define jit_getarg_uc(u,v)      _jit_getarg_uc(_jit,u,v)
 234 #define jit_getarg_s(u,v)       _jit_getarg_s(_jit,u,v)
 235 #define jit_getarg_us(u,v)      _jit_getarg_us(_jit,u,v)
 236 #define jit_getarg_i(u,v)       _jit_getarg_i(_jit,u,v)
 237 #if __WORDSIZE == 32
 238 #  define jit_getarg(u,v)       jit_getarg_i(u,v)
 239 #else
 240 #  define jit_getarg_ui(u,v)    _jit_getarg_ui(_jit,u,v)
 241 #  define jit_getarg_l(u,v)     _jit_getarg_l(_jit,u,v)
 242 #  define jit_getarg(u,v)       jit_getarg_l(u,v)
 243 #endif
 244     jit_code_getarg_c,          jit_code_getarg_uc,
 245     jit_code_getarg_s,          jit_code_getarg_us,
 246     jit_code_getarg_i,          jit_code_getarg_ui,
 247     jit_code_getarg_l,
 248 #if __WORDSIZE == 32
 249 #  define jit_code_getarg       jit_code_getarg_i
 250 #else
 251 #  define jit_code_getarg       jit_code_getarg_l
 252 #endif
 253
 254 #define jit_putargr_c(u,v)      _jit_putargr(_jit,u,v,jit_code_putargr_c)
 255 #define jit_putargi_c(u,v)      _jit_putargi(_jit,u,v,jit_code_putargi_c)
 256 #define jit_putargr_uc(u,v)     _jit_putargr(_jit,u,v,jit_code_putargr_uc)
 257 #define jit_putargi_uc(u,v)     _jit_putargi(_jit,u,v,jit_code_putargi_uc)
 258 #define jit_putargr_s(u,v)      _jit_putargr(_jit,u,v,jit_code_putargr_s)
 259 #define jit_putargi_s(u,v)      _jit_putargi(_jit,u,v,jit_code_putargi_s)
 260 #define jit_putargr_us(u,v)     _jit_putargr(_jit,u,v,jit_code_putargr_us)
 261 #define jit_putargi_us(u,v)     _jit_putargi(_jit,u,v,jit_code_putargi_us)
 262 #define jit_putargr_i(u,v)      _jit_putargr(_jit,u,v,jit_code_putargr_i)
 263 #define jit_putargi_i(u,v)      _jit_putargi(_jit,u,v,jit_code_putargi_i)
 264 #if __WORDSIZE == 32
 265 #  define jit_putargr(u,v)      jit_putargr_i(u,v)
 266 #  define jit_putargi(u,v)      jit_putargi_i(u,v)
 267 #else
 268 #  define jit_putargr_ui(u,v)   _jit_putargr(_jit,u,v,jit_code_putargr_ui)
 269 #  define jit_putargi_ui(u,v)   _jit_putargi(_jit,u,v,jit_code_putargi_ui)
 270 #  define jit_putargr_l(u,v)    _jit_putargr(_jit,u,v,jit_code_putargr_l)
 271 #  define jit_putargi_l(u,v)    _jit_putargi(_jit,u,v,jit_code_putargi_l)
 272 #  define jit_putargr(u,v)      jit_putargr_l(u,v)
 273 #  define jit_putargi(u,v)      jit_putargi_l(u,v)
 274 #endif
 275     jit_code_putargr_c,         jit_code_putargi_c,
 276     jit_code_putargr_uc,        jit_code_putargi_uc,
 277     jit_code_putargr_s,         jit_code_putargi_s,
 278     jit_code_putargr_us,        jit_code_putargi_us,
 279     jit_code_putargr_i,         jit_code_putargi_i,
 280     jit_code_putargr_ui,        jit_code_putargi_ui,
 281     jit_code_putargr_l,         jit_code_putargi_l,
 282 #if __WORDSIZE == 32
 283 #  define jit_code_putargr      jit_code_putargr_i
 284 #  define jit_code_putargi      jit_code_putargi_i
 285 #else
 286 #  define jit_code_putargr      jit_code_putargr_l
 287 #  define jit_code_putargi      jit_code_putargi_l
 288 #endif
 289
 290 #define jit_va_start(u)         jit_new_node_w(jit_code_va_start, u)
 291     jit_code_va_start,
 292 #define jit_va_arg(u, v)        jit_new_node_ww(jit_code_va_arg, u, v)
 293 #define jit_va_arg_d(u, v)      jit_new_node_ww(jit_code_va_arg_d, u, v)
 294     jit_code_va_arg,            jit_code_va_arg_d,
 295 #define jit_va_end(u)           jit_new_node_w(jit_code_va_end, u)
 296     jit_code_va_end,
 297
 298 #define jit_addr(u,v,w)         jit_new_node_www(jit_code_addr,u,v,w)
 299 #define jit_addi(u,v,w)         jit_new_node_www(jit_code_addi,u,v,w)
 300     jit_code_addr,              jit_code_addi,
 301 #define jit_addcr(u,v,w)        jit_new_node_www(jit_code_addcr,u,v,w)
 302 #define jit_addci(u,v,w)        jit_new_node_www(jit_code_addci,u,v,w)
 303     jit_code_addcr,             jit_code_addci,
 304 #define jit_addxr(u,v,w)        jit_new_node_www(jit_code_addxr,u,v,w)
 305 #define jit_addxi(u,v,w)        jit_new_node_www(jit_code_addxi,u,v,w)
 306     jit_code_addxr,             jit_code_addxi,
 307 #define jit_subr(u,v,w)         jit_new_node_www(jit_code_subr,u,v,w)
 308 #define jit_subi(u,v,w)         jit_new_node_www(jit_code_subi,u,v,w)
 309     jit_code_subr,              jit_code_subi,
 310 #define jit_subcr(u,v,w)        jit_new_node_www(jit_code_subcr,u,v,w)
 311 #define jit_subci(u,v,w)        jit_new_node_www(jit_code_subci,u,v,w)
 312     jit_code_subcr,             jit_code_subci,
 313 #define jit_subxr(u,v,w)        jit_new_node_www(jit_code_subxr,u,v,w)
 314 #define jit_subxi(u,v,w)        jit_new_node_www(jit_code_subxi,u,v,w)
 315     jit_code_subxr,             jit_code_subxi,
 316 #define jit_rsbr(u,v,w)         jit_subr(u,w,v)
 317 #define jit_rsbi(u,v,w)         jit_new_node_www(jit_code_rsbi,u,v,w)
 318     jit_code_rsbi,
 319 #define jit_mulr(u,v,w)         jit_new_node_www(jit_code_mulr,u,v,w)
 320 #define jit_muli(u,v,w)         jit_new_node_www(jit_code_muli,u,v,w)
 321     jit_code_mulr,              jit_code_muli,
 322 #define jit_qmulr(l,h,v,w)      jit_new_node_qww(jit_code_qmulr,l,h,v,w)
 323 #define jit_qmuli(l,h,v,w)      jit_new_node_qww(jit_code_qmuli,l,h,v,w)
 324     jit_code_qmulr,             jit_code_qmuli,
 325 #define jit_qmulr_u(l,h,v,w)    jit_new_node_qww(jit_code_qmulr_u,l,h,v,w)
 326 #define jit_qmuli_u(l,h,v,w)    jit_new_node_qww(jit_code_qmuli_u,l,h,v,w)
 327     jit_code_qmulr_u,           jit_code_qmuli_u,
 328 #define jit_divr(u,v,w)         jit_new_node_www(jit_code_divr,u,v,w)
 329 #define jit_divi(u,v,w)         jit_new_node_www(jit_code_divi,u,v,w)
 330     jit_code_divr,              jit_code_divi,
 331 #define jit_divr_u(u,v,w)       jit_new_node_www(jit_code_divr_u,u,v,w)
 332 #define jit_divi_u(u,v,w)       jit_new_node_www(jit_code_divi_u,u,v,w)
 333     jit_code_divr_u,            jit_code_divi_u,
 334 #define jit_qdivr(l,h,v,w)      jit_new_node_qww(jit_code_qdivr,l,h,v,w)
 335 #define jit_qdivi(l,h,v,w)      jit_new_node_qww(jit_code_qdivi,l,h,v,w)
 336     jit_code_qdivr,             jit_code_qdivi,
 337 #define jit_qdivr_u(l,h,v,w)    jit_new_node_qww(jit_code_qdivr_u,l,h,v,w)
 338 #define jit_qdivi_u(l,h,v,w)    jit_new_node_qww(jit_code_qdivi_u,l,h,v,w)
 339     jit_code_qdivr_u,           jit_code_qdivi_u,
 340 #define jit_remr(u,v,w)         jit_new_node_www(jit_code_remr,u,v,w)
 341 #define jit_remi(u,v,w)         jit_new_node_www(jit_code_remi,u,v,w)
 342     jit_code_remr,              jit_code_remi,
 343 #define jit_remr_u(u,v,w)       jit_new_node_www(jit_code_remr_u,u,v,w)
 344 #define jit_remi_u(u,v,w)       jit_new_node_www(jit_code_remi_u,u,v,w)
 345     jit_code_remr_u,            jit_code_remi_u,
 346
 347 #define jit_andr(u,v,w)         jit_new_node_www(jit_code_andr,u,v,w)
 348 #define jit_andi(u,v,w)         jit_new_node_www(jit_code_andi,u,v,w)
 349     jit_code_andr,              jit_code_andi,
 350 #define jit_orr(u,v,w)          jit_new_node_www(jit_code_orr,u,v,w)
 351 #define jit_ori(u,v,w)          jit_new_node_www(jit_code_ori,u,v,w)
 352     jit_code_orr,               jit_code_ori,
 353 #define jit_xorr(u,v,w)         jit_new_node_www(jit_code_xorr,u,v,w)
 354 #define jit_xori(u,v,w)         jit_new_node_www(jit_code_xori,u,v,w)
 355     jit_code_xorr,              jit_code_xori,
 356
 357 #define jit_lshr(u,v,w)         jit_new_node_www(jit_code_lshr,u,v,w)
 358 #define jit_lshi(u,v,w)         jit_new_node_www(jit_code_lshi,u,v,w)
 359     jit_code_lshr,              jit_code_lshi,
 360 #define jit_rshr(u,v,w)         jit_new_node_www(jit_code_rshr,u,v,w)
 361 #define jit_rshi(u,v,w)         jit_new_node_www(jit_code_rshi,u,v,w)
 362     jit_code_rshr,              jit_code_rshi,
 363 #define jit_rshr_u(u,v,w)       jit_new_node_www(jit_code_rshr_u,u,v,w)
 364 #define jit_rshi_u(u,v,w)       jit_new_node_www(jit_code_rshi_u,u,v,w)
 365     jit_code_rshr_u,            jit_code_rshi_u,
 366
 367 #define jit_negr(u,v)           jit_new_node_ww(jit_code_negr,u,v)
 368 #define jit_comr(u,v)           jit_new_node_ww(jit_code_comr,u,v)
 369     jit_code_negr,              jit_code_comr,
 370
 371 #define jit_ltr(u,v,w)          jit_new_node_www(jit_code_ltr,u,v,w)
 372 #define jit_lti(u,v,w)          jit_new_node_www(jit_code_lti,u,v,w)
 373     jit_code_ltr,               jit_code_lti,
 374 #define jit_ltr_u(u,v,w)        jit_new_node_www(jit_code_ltr_u,u,v,w)
 375 #define jit_lti_u(u,v,w)        jit_new_node_www(jit_code_lti_u,u,v,w)
 376     jit_code_ltr_u,             jit_code_lti_u,
 377 #define jit_ler(u,v,w)          jit_new_node_www(jit_code_ler,u,v,w)
 378 #define jit_lei(u,v,w)          jit_new_node_www(jit_code_lei,u,v,w)
 379     jit_code_ler,               jit_code_lei,
 380 #define jit_ler_u(u,v,w)        jit_new_node_www(jit_code_ler_u,u,v,w)
 381 #define jit_lei_u(u,v,w)        jit_new_node_www(jit_code_lei_u,u,v,w)
 382     jit_code_ler_u,             jit_code_lei_u,
 383 #define jit_eqr(u,v,w)          jit_new_node_www(jit_code_eqr,u,v,w)
 384 #define jit_eqi(u,v,w)          jit_new_node_www(jit_code_eqi,u,v,w)
 385     jit_code_eqr,               jit_code_eqi,
 386 #define jit_ger(u,v,w)          jit_new_node_www(jit_code_ger,u,v,w)
 387 #define jit_gei(u,v,w)          jit_new_node_www(jit_code_gei,u,v,w)
 388     jit_code_ger,               jit_code_gei,
 389 #define jit_ger_u(u,v,w)        jit_new_node_www(jit_code_ger_u,u,v,w)
 390 #define jit_gei_u(u,v,w)        jit_new_node_www(jit_code_gei_u,u,v,w)
 391     jit_code_ger_u,             jit_code_gei_u,
 392 #define jit_gtr(u,v,w)          jit_new_node_www(jit_code_gtr,u,v,w)
 393 #define jit_gti(u,v,w)          jit_new_node_www(jit_code_gti,u,v,w)
 394     jit_code_gtr,               jit_code_gti,
 395 #define jit_gtr_u(u,v,w)        jit_new_node_www(jit_code_gtr_u,u,v,w)
 396 #define jit_gti_u(u,v,w)        jit_new_node_www(jit_code_gti_u,u,v,w)
 397     jit_code_gtr_u,             jit_code_gti_u,
 398 #define jit_ner(u,v,w)          jit_new_node_www(jit_code_ner,u,v,w)
 399 #define jit_nei(u,v,w)          jit_new_node_www(jit_code_nei,u,v,w)
 400     jit_code_ner,               jit_code_nei,
 401
 402 #define jit_movr(u,v)           jit_new_node_ww(jit_code_movr,u,v)
 403 #define jit_movi(u,v)           jit_new_node_ww(jit_code_movi,u,v)
 404     jit_code_movr,              jit_code_movi,
 405
 406 #define jit_movnr(u,v,w)        jit_new_node_www(jit_code_movnr,u,v,w)
 407 #define jit_movzr(u,v,w)        jit_new_node_www(jit_code_movzr,u,v,w)
 408     jit_code_movnr,             jit_code_movzr,
 409
 410     jit_code_casr,              jit_code_casi,
 411 #define jit_casr(u, v, w, x)    jit_new_node_wwq(jit_code_casr, u, v, w, x)
 412 #define jit_casi(u, v, w, x)    jit_new_node_wwq(jit_code_casi, u, v, w, x)
 413
 414 #define jit_extr_c(u,v)         jit_new_node_ww(jit_code_extr_c,u,v)
 415 #define jit_extr_uc(u,v)        jit_new_node_ww(jit_code_extr_uc,u,v)
 416     jit_code_extr_c,            jit_code_extr_uc,
 417 #define jit_extr_s(u,v)         jit_new_node_ww(jit_code_extr_s,u,v)
 418 #define jit_extr_us(u,v)        jit_new_node_ww(jit_code_extr_us,u,v)
 419     jit_code_extr_s,            jit_code_extr_us,
 420 #if __WORDSIZE == 64
 421 #  define jit_extr_i(u,v)       jit_new_node_ww(jit_code_extr_i,u,v)
 422 #  define jit_extr_ui(u,v)      jit_new_node_ww(jit_code_extr_ui,u,v)
 423 #endif
 424     jit_code_extr_i,            jit_code_extr_ui,
 425
 426 #define jit_bswapr_us(u,v)      jit_new_node_ww(jit_code_bswapr_us,u,v)
 427     jit_code_bswapr_us,
 428 #define jit_bswapr_ui(u,v)      jit_new_node_ww(jit_code_bswapr_ui,u,v)
 429     jit_code_bswapr_ui,
 430 #define jit_bswapr_ul(u,v)      jit_new_node_ww(jit_code_bswapr_ul,u,v)
 431     jit_code_bswapr_ul,
 432 #if __WORDSIZE == 32
 433 #define jit_bswapr(u,v)         jit_new_node_ww(jit_code_bswapr_ui,u,v)
 434 #else
 435 #define jit_bswapr(u,v)         jit_new_node_ww(jit_code_bswapr_ul,u,v)
 436 #endif
 437
 438 #define jit_htonr_us(u,v)       jit_new_node_ww(jit_code_htonr_us,u,v)
 439 #define jit_ntohr_us(u,v)       jit_new_node_ww(jit_code_htonr_us,u,v)
 440     jit_code_htonr_us,
 441 #define jit_htonr_ui(u,v)       jit_new_node_ww(jit_code_htonr_ui,u,v)
 442 #define jit_ntohr_ui(u,v)       jit_new_node_ww(jit_code_htonr_ui,u,v)
 443 #if __WORDSIZE == 32
 444 #  define jit_htonr(u,v)        jit_new_node_ww(jit_code_htonr_ui,u,v)
 445 #  define jit_ntohr(u,v)        jit_new_node_ww(jit_code_htonr_ui,u,v)
 446 #else
 447 #define jit_htonr_ul(u,v)       jit_new_node_ww(jit_code_htonr_ul,u,v)
 448 #define jit_ntohr_ul(u,v)       jit_new_node_ww(jit_code_htonr_ul,u,v)
 449 #  define jit_htonr(u,v)        jit_new_node_ww(jit_code_htonr_ul,u,v)
 450 #  define jit_ntohr(u,v)        jit_new_node_ww(jit_code_htonr_ul,u,v)
 451 #endif
 452     jit_code_htonr_ui,          jit_code_htonr_ul,
 453
 454 #define jit_ldr_c(u,v)          jit_new_node_ww(jit_code_ldr_c,u,v)
 455 #define jit_ldi_c(u,v)          jit_new_node_wp(jit_code_ldi_c,u,v)
 456     jit_code_ldr_c,             jit_code_ldi_c,
 457 #define jit_ldr_uc(u,v)         jit_new_node_ww(jit_code_ldr_uc,u,v)
 458 #define jit_ldi_uc(u,v)         jit_new_node_wp(jit_code_ldi_uc,u,v)
 459     jit_code_ldr_uc,            jit_code_ldi_uc,
 460 #define jit_ldr_s(u,v)          jit_new_node_ww(jit_code_ldr_s,u,v)
 461 #define jit_ldi_s(u,v)          jit_new_node_wp(jit_code_ldi_s,u,v)
 462     jit_code_ldr_s,             jit_code_ldi_s,
 463 #define jit_ldr_us(u,v)         jit_new_node_ww(jit_code_ldr_us,u,v)
 464 #define jit_ldi_us(u,v)         jit_new_node_wp(jit_code_ldi_us,u,v)
 465     jit_code_ldr_us,            jit_code_ldi_us,
 466 #define jit_ldr_i(u,v)          jit_new_node_ww(jit_code_ldr_i,u,v)
 467 #define jit_ldi_i(u,v)          jit_new_node_wp(jit_code_ldi_i,u,v)
 468     jit_code_ldr_i,             jit_code_ldi_i,
 469 #if __WORDSIZE == 32
 470 #  define jit_ldr(u,v)          jit_ldr_i(u,v)
 471 #  define jit_ldi(u,v)          jit_ldi_i(u,v)
 472 #else
 473 #  define jit_ldr(u,v)          jit_ldr_l(u,v)
 474 #  define jit_ldi(u,v)          jit_ldi_l(u,v)
 475 #  define jit_ldr_ui(u,v)       jit_new_node_ww(jit_code_ldr_ui,u,v)
 476 #  define jit_ldi_ui(u,v)       jit_new_node_wp(jit_code_ldi_ui,u,v)
 477 #define jit_ldr_l(u,v)          jit_new_node_ww(jit_code_ldr_l,u,v)
 478 #define jit_ldi_l(u,v)          jit_new_node_wp(jit_code_ldi_l,u,v)
 479 #endif
 480     jit_code_ldr_ui,            jit_code_ldi_ui,
 481     jit_code_ldr_l,             jit_code_ldi_l,
 482
 483 #define jit_ldxr_c(u,v,w)       jit_new_node_www(jit_code_ldxr_c,u,v,w)
 484 #define jit_ldxi_c(u,v,w)       jit_new_node_www(jit_code_ldxi_c,u,v,w)
 485     jit_code_ldxr_c,            jit_code_ldxi_c,
 486 #define jit_ldxr_uc(u,v,w)      jit_new_node_www(jit_code_ldxr_uc,u,v,w)
 487 #define jit_ldxi_uc(u,v,w)      jit_new_node_www(jit_code_ldxi_uc,u,v,w)
 488     jit_code_ldxr_uc,           jit_code_ldxi_uc,
 489 #define jit_ldxr_s(u,v,w)       jit_new_node_www(jit_code_ldxr_s,u,v,w)
 490 #define jit_ldxi_s(u,v,w)       jit_new_node_www(jit_code_ldxi_s,u,v,w)
 491     jit_code_ldxr_s,            jit_code_ldxi_s,
 492 #define jit_ldxr_us(u,v,w)      jit_new_node_www(jit_code_ldxr_us,u,v,w)
 493 #define jit_ldxi_us(u,v,w)      jit_new_node_www(jit_code_ldxi_us,u,v,w)
 494     jit_code_ldxr_us,           jit_code_ldxi_us,
 495 #define jit_ldxr_i(u,v,w)       jit_new_node_www(jit_code_ldxr_i,u,v,w)
 496 #define jit_ldxi_i(u,v,w)       jit_new_node_www(jit_code_ldxi_i,u,v,w)
 497     jit_code_ldxr_i,            jit_code_ldxi_i,
 498 #if __WORDSIZE == 32
 499 #  define jit_ldxr(u,v,w)       jit_ldxr_i(u,v,w)
 500 #  define jit_ldxi(u,v,w)       jit_ldxi_i(u,v,w)
 501 #else
 502 #  define jit_ldxr_ui(u,v,w)    jit_new_node_www(jit_code_ldxr_ui,u,v,w)
 503 #  define jit_ldxi_ui(u,v,w)    jit_new_node_www(jit_code_ldxi_ui,u,v,w)
 504 #  define jit_ldxr_l(u,v,w)     jit_new_node_www(jit_code_ldxr_l,u,v,w)
 505 #  define jit_ldxi_l(u,v,w)     jit_new_node_www(jit_code_ldxi_l,u,v,w)
 506 #  define jit_ldxr(u,v,w)       jit_ldxr_l(u,v,w)
 507 #  define jit_ldxi(u,v,w)       jit_ldxi_l(u,v,w)
 508 #endif
 509     jit_code_ldxr_ui,           jit_code_ldxi_ui,
 510     jit_code_ldxr_l,            jit_code_ldxi_l,
 511
 512 #define jit_str_c(u,v)          jit_new_node_ww(jit_code_str_c,u,v)
 513 #define jit_sti_c(u,v)          jit_new_node_pw(jit_code_sti_c,u,v)
 514     jit_code_str_c,             jit_code_sti_c,
 515 #define jit_str_s(u,v)          jit_new_node_ww(jit_code_str_s,u,v)
 516 #define jit_sti_s(u,v)          jit_new_node_pw(jit_code_sti_s,u,v)
 517     jit_code_str_s,             jit_code_sti_s,
 518 #define jit_str_i(u,v)          jit_new_node_ww(jit_code_str_i,u,v)
 519 #define jit_sti_i(u,v)          jit_new_node_pw(jit_code_sti_i,u,v)
 520     jit_code_str_i,             jit_code_sti_i,
 521 #if __WORDSIZE == 32
 522 #  define jit_str(u,v)          jit_str_i(u,v)
 523 #  define jit_sti(u,v)          jit_sti_i(u,v)
 524 #else
 525 #  define jit_str(u,v)          jit_str_l(u,v)
 526 #  define jit_sti(u,v)          jit_sti_l(u,v)
 527 #  define jit_str_l(u,v)        jit_new_node_ww(jit_code_str_l,u,v)
 528 #  define jit_sti_l(u,v)        jit_new_node_pw(jit_code_sti_l,u,v)
 529 #endif
 530     jit_code_str_l,             jit_code_sti_l,
 531
 532 #define jit_stxr_c(u,v,w)       jit_new_node_www(jit_code_stxr_c,u,v,w)
 533 #define jit_stxi_c(u,v,w)       jit_new_node_www(jit_code_stxi_c,u,v,w)
 534     jit_code_stxr_c,            jit_code_stxi_c,
 535 #define jit_stxr_s(u,v,w)       jit_new_node_www(jit_code_stxr_s,u,v,w)
 536 #define jit_stxi_s(u,v,w)       jit_new_node_www(jit_code_stxi_s,u,v,w)
 537     jit_code_stxr_s,            jit_code_stxi_s,
 538 #define jit_stxr_i(u,v,w)       jit_new_node_www(jit_code_stxr_i,u,v,w)
 539 #define jit_stxi_i(u,v,w)       jit_new_node_www(jit_code_stxi_i,u,v,w)
 540     jit_code_stxr_i,            jit_code_stxi_i,
 541 #if __WORDSIZE == 32
 542 #  define jit_stxr(u,v,w)       jit_stxr_i(u,v,w)
 543 #  define jit_stxi(u,v,w)       jit_stxi_i(u,v,w)
 544 #else
 545 #  define jit_stxr(u,v,w)       jit_stxr_l(u,v,w)
 546 #  define jit_stxi(u,v,w)       jit_stxi_l(u,v,w)
 547 #  define jit_stxr_l(u,v,w)     jit_new_node_www(jit_code_stxr_l,u,v,w)
 548 #  define jit_stxi_l(u,v,w)     jit_new_node_www(jit_code_stxi_l,u,v,w)
 549 #endif
 550     jit_code_stxr_l,            jit_code_stxi_l,
 551
 552 #define jit_bltr(v,w)           jit_new_node_pww(jit_code_bltr,NULL,v,w)
 553 #define jit_blti(v,w)           jit_new_node_pww(jit_code_blti,NULL,v,w)
 554     jit_code_bltr,              jit_code_blti,
 555 #define jit_bltr_u(v,w)         jit_new_node_pww(jit_code_bltr_u,NULL,v,w)
 556 #define jit_blti_u(v,w)         jit_new_node_pww(jit_code_blti_u,NULL,v,w)
 557     jit_code_bltr_u,            jit_code_blti_u,
 558 #define jit_bler(v,w)           jit_new_node_pww(jit_code_bler,NULL,v,w)
 559 #define jit_blei(v,w)           jit_new_node_pww(jit_code_blei,NULL,v,w)
 560     jit_code_bler,              jit_code_blei,
 561 #define jit_bler_u(v,w)         jit_new_node_pww(jit_code_bler_u,NULL,v,w)
 562 #define jit_blei_u(v,w)         jit_new_node_pww(jit_code_blei_u,NULL,v,w)
 563     jit_code_bler_u,            jit_code_blei_u,
 564 #define jit_beqr(v,w)           jit_new_node_pww(jit_code_beqr,NULL,v,w)
 565 #define jit_beqi(v,w)           jit_new_node_pww(jit_code_beqi,NULL,v,w)
 566     jit_code_beqr,              jit_code_beqi,
 567 #define jit_bger(v,w)           jit_new_node_pww(jit_code_bger,NULL,v,w)
 568 #define jit_bgei(v,w)           jit_new_node_pww(jit_code_bgei,NULL,v,w)
 569     jit_code_bger,              jit_code_bgei,
 570 #define jit_bger_u(v,w)         jit_new_node_pww(jit_code_bger_u,NULL,v,w)
 571 #define jit_bgei_u(v,w)         jit_new_node_pww(jit_code_bgei_u,NULL,v,w)
 572     jit_code_bger_u,            jit_code_bgei_u,
 573 #define jit_bgtr(v,w)           jit_new_node_pww(jit_code_bgtr,NULL,v,w)
 574 #define jit_bgti(v,w)           jit_new_node_pww(jit_code_bgti,NULL,v,w)
 575     jit_code_bgtr,              jit_code_bgti,
 576 #define jit_bgtr_u(v,w)         jit_new_node_pww(jit_code_bgtr_u,NULL,v,w)
 577 #define jit_bgti_u(v,w)         jit_new_node_pww(jit_code_bgti_u,NULL,v,w)
 578     jit_code_bgtr_u,            jit_code_bgti_u,
 579 #define jit_bner(v,w)           jit_new_node_pww(jit_code_bner,NULL,v,w)
 580 #define jit_bnei(v,w)           jit_new_node_pww(jit_code_bnei,NULL,v,w)
 581     jit_code_bner,              jit_code_bnei,
 582
 583 #define jit_bmsr(v,w)           jit_new_node_pww(jit_code_bmsr,NULL,v,w)
 584 #define jit_bmsi(v,w)           jit_new_node_pww(jit_code_bmsi,NULL,v,w)
 585     jit_code_bmsr,              jit_code_bmsi,
 586 #define jit_bmcr(v,w)           jit_new_node_pww(jit_code_bmcr,NULL,v,w)
 587 #define jit_bmci(v,w)           jit_new_node_pww(jit_code_bmci,NULL,v,w)
 588     jit_code_bmcr,              jit_code_bmci,
 589
 590 #define jit_boaddr(v,w)         jit_new_node_pww(jit_code_boaddr,NULL,v,w)
 591 #define jit_boaddi(v,w)         jit_new_node_pww(jit_code_boaddi,NULL,v,w)
 592     jit_code_boaddr,            jit_code_boaddi,
 593 #define jit_boaddr_u(v,w)       jit_new_node_pww(jit_code_boaddr_u,NULL,v,w)
 594 #define jit_boaddi_u(v,w)       jit_new_node_pww(jit_code_boaddi_u,NULL,v,w)
 595     jit_code_boaddr_u,          jit_code_boaddi_u,
 596 #define jit_bxaddr(v,w)         jit_new_node_pww(jit_code_bxaddr,NULL,v,w)
 597 #define jit_bxaddi(v,w)         jit_new_node_pww(jit_code_bxaddi,NULL,v,w)
 598     jit_code_bxaddr,            jit_code_bxaddi,
 599 #define jit_bxaddr_u(v,w)       jit_new_node_pww(jit_code_bxaddr_u,NULL,v,w)
 600 #define jit_bxaddi_u(v,w)       jit_new_node_pww(jit_code_bxaddi_u,NULL,v,w)
 601     jit_code_bxaddr_u,          jit_code_bxaddi_u,
 602 #define jit_bosubr(v,w)         jit_new_node_pww(jit_code_bosubr,NULL,v,w)
 603 #define jit_bosubi(v,w)         jit_new_node_pww(jit_code_bosubi,NULL,v,w)
 604     jit_code_bosubr,            jit_code_bosubi,
 605 #define jit_bosubr_u(v,w)       jit_new_node_pww(jit_code_bosubr_u,NULL,v,w)
 606 #define jit_bosubi_u(v,w)       jit_new_node_pww(jit_code_bosubi_u,NULL,v,w)
 607     jit_code_bosubr_u,          jit_code_bosubi_u,
 608 #define jit_bxsubr(v,w)         jit_new_node_pww(jit_code_bxsubr,NULL,v,w)
 609 #define jit_bxsubi(v,w)         jit_new_node_pww(jit_code_bxsubi,NULL,v,w)
 610     jit_code_bxsubr,            jit_code_bxsubi,
 611 #define jit_bxsubr_u(v,w)       jit_new_node_pww(jit_code_bxsubr_u,NULL,v,w)
 612 #define jit_bxsubi_u(v,w)       jit_new_node_pww(jit_code_bxsubi_u,NULL,v,w)
 613     jit_code_bxsubr_u,          jit_code_bxsubi_u,
 614
 615 #define jit_jmpr(u)             jit_new_node_w(jit_code_jmpr,u)
 616 #define jit_jmpi()              jit_new_node_p(jit_code_jmpi,NULL)
 617     jit_code_jmpr,              jit_code_jmpi,
 618 #define jit_callr(u)            jit_new_node_w(jit_code_callr,u)
 619 #define jit_calli(u)            jit_new_node_p(jit_code_calli,u)
 620     jit_code_callr,             jit_code_calli,
 621
 622 #define jit_prepare()           _jit_prepare(_jit)
 623     jit_code_prepare,
 624
 625 #define jit_pushargr_c(u)       _jit_pushargr(_jit,u,jit_code_pushargr_c)
 626 #define jit_pushargi_c(u)       _jit_pushargi(_jit,u,jit_code_pushargi_c)
 627 #define jit_pushargr_uc(u)      _jit_pushargr(_jit,u,jit_code_pushargr_uc)
 628 #define jit_pushargi_uc(u)      _jit_pushargi(_jit,u,jit_code_pushargi_uc)
 629 #define jit_pushargr_s(u)       _jit_pushargr(_jit,u,jit_code_pushargr_s)
 630 #define jit_pushargi_s(u)       _jit_pushargi(_jit,u,jit_code_pushargi_s)
 631 #define jit_pushargr_us(u)      _jit_pushargr(_jit,u,jit_code_pushargr_us)
 632 #define jit_pushargi_us(u)      _jit_pushargi(_jit,u,jit_code_pushargi_us)
 633 #define jit_pushargr_i(u)       _jit_pushargr(_jit,u,jit_code_pushargr_i)
 634 #define jit_pushargi_i(u)       _jit_pushargi(_jit,u,jit_code_pushargi_i)
 635 #if __WORDSIZE == 32
 636 #  define jit_pushargr(u)       jit_pushargr_i(u)
 637 #  define jit_pushargi(u)       jit_pushargi_i(u)
 638 #else
 639 #  define jit_pushargr_ui(u)    _jit_pushargr(_jit,u,jit_code_pushargr_ui)
 640 #  define jit_pushargi_ui(u)    _jit_pushargi(_jit,u,jit_code_pushargi_ui)
 641 #  define jit_pushargr_l(u)     _jit_pushargr(_jit,u,jit_code_pushargr_l)
 642 #  define jit_pushargi_l(u)     _jit_pushargi(_jit,u,jit_code_pushargi_l)
 643 #  define jit_pushargr(u)       jit_pushargr_l(u)
 644 #  define jit_pushargi(u)       jit_pushargi_l(u)
 645 #endif
 646     jit_code_pushargr_c,        jit_code_pushargi_c,
 647     jit_code_pushargr_uc,       jit_code_pushargi_uc,
 648     jit_code_pushargr_s,        jit_code_pushargi_s,
 649     jit_code_pushargr_us,       jit_code_pushargi_us,
 650     jit_code_pushargr_i,        jit_code_pushargi_i,
 651     jit_code_pushargr_ui,       jit_code_pushargi_ui,
 652     jit_code_pushargr_l,        jit_code_pushargi_l,
 653 #if __WORDSIZE == 32
 654 #  define jit_code_pushargr     jit_code_pushargr_i
 655 #  define jit_code_pushargi     jit_code_pushargi_i
 656 #else
 657 #  define jit_code_pushargr     jit_code_pushargr_l
 658 #  define jit_code_pushargi     jit_code_pushargi_l
 659 #endif
 660
 661 #define jit_finishr(u)          _jit_finishr(_jit,u)
 662 #define jit_finishi(u)          _jit_finishi(_jit,u)
 663     jit_code_finishr,           jit_code_finishi,
 664 #define jit_ret()               _jit_ret(_jit)
 665     jit_code_ret,
 666
 667 #define jit_retr_c(u)           _jit_retr(_jit,u,jit_code_retr_c)
 668 #define jit_reti_c(u)           _jit_reti(_jit,u,jit_code_reti_c)
 669 #define jit_retr_uc(u)          _jit_retr(_jit,u,jit_code_retr_uc)
 670 #define jit_reti_uc(u)          _jit_reti(_jit,u,jit_code_reti_uc)
 671 #define jit_retr_s(u)           _jit_retr(_jit,u,jit_code_retr_s)
 672 #define jit_reti_s(u)           _jit_reti(_jit,u,jit_code_reti_s)
 673 #define jit_retr_us(u)          _jit_retr(_jit,u,jit_code_retr_us)
 674 #define jit_reti_us(u)          _jit_reti(_jit,u,jit_code_reti_us)
 675 #define jit_retr_i(u)           _jit_retr(_jit,u,jit_code_retr_i)
 676 #define jit_reti_i(u)           _jit_reti(_jit,u,jit_code_reti_i)
 677 #if __WORDSIZE == 32
 678 #  define jit_retr(u)           jit_retr_i(u)
 679 #  define jit_reti(u)           jit_reti_i(u)
 680 #else
 681 #  define jit_retr_ui(u)        _jit_retr(_jit,u,jit_code_retr_ui)
 682 #  define jit_reti_ui(u)        _jit_reti(_jit,u,jit_code_reti_ui)
 683 #  define jit_retr_l(u)         _jit_retr(_jit,u,jit_code_retr_l)
 684 #  define jit_reti_l(u)         _jit_reti(_jit,u,jit_code_reti_l)
 685 #  define jit_retr(u)           jit_retr_l(u)
 686 #  define jit_reti(u)           jit_reti_l(u)
 687 #endif
 688     jit_code_retr_c,            jit_code_reti_c,
 689     jit_code_retr_uc,           jit_code_reti_uc,
 690     jit_code_retr_s,            jit_code_reti_s,
 691     jit_code_retr_us,           jit_code_reti_us,
 692     jit_code_retr_i,            jit_code_reti_i,
 693     jit_code_retr_ui,           jit_code_reti_ui,
 694     jit_code_retr_l,            jit_code_reti_l,
 695 #if __WORDSIZE == 32
 696 #  define jit_code_retr         jit_code_retr_i
 697 #  define jit_code_reti         jit_code_reti_i
 698 #else
 699 #  define jit_code_retr         jit_code_retr_l
 700 #  define jit_code_reti         jit_code_reti_l
 701 #endif
 702
 703 #define jit_retval_c(u)         _jit_retval_c(_jit,u)
 704 #define jit_retval_uc(u)        _jit_retval_uc(_jit,u)
 705 #define jit_retval_s(u)         _jit_retval_s(_jit,u)
 706 #define jit_retval_us(u)        _jit_retval_us(_jit,u)
 707 #define jit_retval_i(u)         _jit_retval_i(_jit,u)
 708 #if __WORDSIZE == 32
 709 #  define jit_retval(u)         jit_retval_i(u)
 710 #else
 711 #  define jit_retval_ui(u)      _jit_retval_ui(_jit,u)
 712 #  define jit_retval_l(u)       _jit_retval_l(_jit,u)
 713 #  define jit_retval(u)         jit_retval_l(u)
 714 #endif
 715     jit_code_retval_c,          jit_code_retval_uc,
 716     jit_code_retval_s,          jit_code_retval_us,
 717     jit_code_retval_i,          jit_code_retval_ui,
 718     jit_code_retval_l,
 719 #if __WORDSIZE == 32
 720 #  define jit_code_retval       jit_code_retval_i
 721 #else
 722 #  define jit_code_retval       jit_code_retval_l
 723 #endif
 724
 725 #define jit_epilog()            _jit_epilog(_jit)
 726     jit_code_epilog,
 727
 728 #define jit_arg_f()             _jit_arg_f(_jit)
 729     jit_code_arg_f,
 730 #define jit_getarg_f(u,v)       _jit_getarg_f(_jit,u,v)
 731     jit_code_getarg_f,
 732 #define jit_putargr_f(u,v)      _jit_putargr_f(_jit,u,v)
 733 #define jit_putargi_f(u,v)      _jit_putargi_f(_jit,u,v)
 734     jit_code_putargr_f,         jit_code_putargi_f,
 735
 736 #define jit_addr_f(u,v,w)       jit_new_node_www(jit_code_addr_f,u,v,w)
 737 #define jit_addi_f(u,v,w)       jit_new_node_wwf(jit_code_addi_f,u,v,w)
 738     jit_code_addr_f,            jit_code_addi_f,
 739 #define jit_subr_f(u,v,w)       jit_new_node_www(jit_code_subr_f,u,v,w)
 740 #define jit_subi_f(u,v,w)       jit_new_node_wwf(jit_code_subi_f,u,v,w)
 741     jit_code_subr_f,            jit_code_subi_f,
 742 #define jit_rsbr_f(u,v,w)       jit_subr_f(u,w,v)
 743 #define jit_rsbi_f(u,v,w)       jit_new_node_wwf(jit_code_rsbi_f,u,v,w)
 744     jit_code_rsbi_f,
 745 #define jit_mulr_f(u,v,w)       jit_new_node_www(jit_code_mulr_f,u,v,w)
 746 #define jit_muli_f(u,v,w)       jit_new_node_wwf(jit_code_muli_f,u,v,w)
 747     jit_code_mulr_f,            jit_code_muli_f,
 748 #define jit_divr_f(u,v,w)       jit_new_node_www(jit_code_divr_f,u,v,w)
 749 #define jit_divi_f(u,v,w)       jit_new_node_wwf(jit_code_divi_f,u,v,w)
 750     jit_code_divr_f,            jit_code_divi_f,
 751 #define jit_negr_f(u,v)         jit_new_node_ww(jit_code_negr_f,u,v)
 752 #define jit_absr_f(u,v)         jit_new_node_ww(jit_code_absr_f,u,v)
 753 #define jit_sqrtr_f(u,v)        jit_new_node_ww(jit_code_sqrtr_f,u,v)
 754     jit_code_negr_f,            jit_code_absr_f,        jit_code_sqrtr_f,
 755
 756 #define jit_ltr_f(u,v,w)        jit_new_node_www(jit_code_ltr_f,u,v,w)
 757 #define jit_lti_f(u,v,w)        jit_new_node_wwf(jit_code_lti_f,u,v,w)
 758     jit_code_ltr_f,             jit_code_lti_f,
 759 #define jit_ler_f(u,v,w)        jit_new_node_www(jit_code_ler_f,u,v,w)
 760 #define jit_lei_f(u,v,w)        jit_new_node_wwf(jit_code_lei_f,u,v,w)
 761     jit_code_ler_f,             jit_code_lei_f,
 762 #define jit_eqr_f(u,v,w)        jit_new_node_www(jit_code_eqr_f,u,v,w)
 763 #define jit_eqi_f(u,v,w)        jit_new_node_wwf(jit_code_eqi_f,u,v,w)
 764     jit_code_eqr_f,             jit_code_eqi_f,
 765 #define jit_ger_f(u,v,w)        jit_new_node_www(jit_code_ger_f,u,v,w)
 766 #define jit_gei_f(u,v,w)        jit_new_node_wwf(jit_code_gei_f,u,v,w)
 767     jit_code_ger_f,             jit_code_gei_f,
 768 #define jit_gtr_f(u,v,w)        jit_new_node_www(jit_code_gtr_f,u,v,w)
 769 #define jit_gti_f(u,v,w)        jit_new_node_wwf(jit_code_gti_f,u,v,w)
 770     jit_code_gtr_f,             jit_code_gti_f,
 771 #define jit_ner_f(u,v,w)        jit_new_node_www(jit_code_ner_f,u,v,w)
 772 #define jit_nei_f(u,v,w)        jit_new_node_wwf(jit_code_nei_f,u,v,w)
 773     jit_code_ner_f,             jit_code_nei_f,
 774 #define jit_unltr_f(u,v,w)      jit_new_node_www(jit_code_unltr_f,u,v,w)
 775 #define jit_unlti_f(u,v,w)      jit_new_node_wwf(jit_code_unlti_f,u,v,w)
 776     jit_code_unltr_f,           jit_code_unlti_f,
 777 #define jit_unler_f(u,v,w)      jit_new_node_www(jit_code_unler_f,u,v,w)
 778 #define jit_unlei_f(u,v,w)      jit_new_node_wwf(jit_code_unlei_f,u,v,w)
 779     jit_code_unler_f,           jit_code_unlei_f,
 780 #define jit_uneqr_f(u,v,w)      jit_new_node_www(jit_code_uneqr_f,u,v,w)
 781 #define jit_uneqi_f(u,v,w)      jit_new_node_wwf(jit_code_uneqi_f,u,v,w)
 782     jit_code_uneqr_f,           jit_code_uneqi_f,
 783 #define jit_unger_f(u,v,w)      jit_new_node_www(jit_code_unger_f,u,v,w)
 784 #define jit_ungei_f(u,v,w)      jit_new_node_wwf(jit_code_ungei_f,u,v,w)
 785     jit_code_unger_f,           jit_code_ungei_f,
 786 #define jit_ungtr_f(u,v,w)      jit_new_node_www(jit_code_ungtr_f,u,v,w)
 787 #define jit_ungti_f(u,v,w)      jit_new_node_wwf(jit_code_ungti_f,u,v,w)
 788     jit_code_ungtr_f,           jit_code_ungti_f,
 789 #define jit_ltgtr_f(u,v,w)      jit_new_node_www(jit_code_ltgtr_f,u,v,w)
 790 #define jit_ltgti_f(u,v,w)      jit_new_node_wwf(jit_code_ltgti_f,u,v,w)
 791     jit_code_ltgtr_f,           jit_code_ltgti_f,
 792 #define jit_ordr_f(u,v,w)       jit_new_node_www(jit_code_ordr_f,u,v,w)
 793 #define jit_ordi_f(u,v,w)       jit_new_node_wwf(jit_code_ordi_f,u,v,w)
 794     jit_code_ordr_f,            jit_code_ordi_f,
 795 #define jit_unordr_f(u,v,w)     jit_new_node_www(jit_code_unordr_f,u,v,w)
 796 #define jit_unordi_f(u,v,w)     jit_new_node_wwf(jit_code_unordi_f,u,v,w)
 797     jit_code_unordr_f,          jit_code_unordi_f,
 798
 799 #define jit_truncr_f_i(u,v)     jit_new_node_ww(jit_code_truncr_f_i,u,v)
 800     jit_code_truncr_f_i,
 801 #if __WORDSIZE == 32
 802 #  define jit_truncr_f(u,v)     jit_truncr_f_i(u,v)
 803 #else
 804 #  define jit_truncr_f(u,v)     jit_truncr_f_l(u,v)
 805 #  define jit_truncr_f_l(u,v)   jit_new_node_ww(jit_code_truncr_f_l,u,v)
 806 #endif
 807     jit_code_truncr_f_l,
 808 #define jit_extr_f(u,v)         jit_new_node_ww(jit_code_extr_f,u,v)
 809 #define jit_extr_d_f(u,v)       jit_new_node_ww(jit_code_extr_d_f,u,v)
 810     jit_code_extr_f,            jit_code_extr_d_f,
 811 #define jit_movr_f(u,v)         jit_new_node_ww(jit_code_movr_f,u,v)
 812 #define jit_movi_f(u,v)         jit_new_node_wf(jit_code_movi_f,u,v)
 813     jit_code_movr_f,            jit_code_movi_f,
 814
 815 #define jit_ldr_f(u,v)          jit_new_node_ww(jit_code_ldr_f,u,v)
 816 #define jit_ldi_f(u,v)          jit_new_node_wp(jit_code_ldi_f,u,v)
 817     jit_code_ldr_f,             jit_code_ldi_f,
 818 #define jit_ldxr_f(u,v,w)       jit_new_node_www(jit_code_ldxr_f,u,v,w)
 819 #define jit_ldxi_f(u,v,w)       jit_new_node_www(jit_code_ldxi_f,u,v,w)
 820     jit_code_ldxr_f,            jit_code_ldxi_f,
 821 #define jit_str_f(u,v)          jit_new_node_ww(jit_code_str_f,u,v)
 822 #define jit_sti_f(u,v)          jit_new_node_pw(jit_code_sti_f,u,v)
 823     jit_code_str_f,             jit_code_sti_f,
 824 #define jit_stxr_f(u,v,w)       jit_new_node_www(jit_code_stxr_f,u,v,w)
 825 #define jit_stxi_f(u,v,w)       jit_new_node_www(jit_code_stxi_f,u,v,w)
 826     jit_code_stxr_f,            jit_code_stxi_f,
 827
 828 #define jit_bltr_f(v,w)         jit_new_node_pww(jit_code_bltr_f,NULL,v,w)
 829 #define jit_blti_f(v,w)         jit_new_node_pwf(jit_code_blti_f,NULL,v,w)
 830     jit_code_bltr_f,            jit_code_blti_f,
 831 #define jit_bler_f(v,w)         jit_new_node_pww(jit_code_bler_f,NULL,v,w)
 832 #define jit_blei_f(v,w)         jit_new_node_pwf(jit_code_blei_f,NULL,v,w)
 833     jit_code_bler_f,            jit_code_blei_f,
 834 #define jit_beqr_f(v,w)         jit_new_node_pww(jit_code_beqr_f,NULL,v,w)
 835 #define jit_beqi_f(v,w)         jit_new_node_pwf(jit_code_beqi_f,NULL,v,w)
 836     jit_code_beqr_f,            jit_code_beqi_f,
 837 #define jit_bger_f(v,w)         jit_new_node_pww(jit_code_bger_f,NULL,v,w)
 838 #define jit_bgei_f(v,w)         jit_new_node_pwf(jit_code_bgei_f,NULL,v,w)
 839     jit_code_bger_f,            jit_code_bgei_f,
 840 #define jit_bgtr_f(v,w)         jit_new_node_pww(jit_code_bgtr_f,NULL,v,w)
 841 #define jit_bgti_f(v,w)         jit_new_node_pwf(jit_code_bgti_f,NULL,v,w)
 842     jit_code_bgtr_f,            jit_code_bgti_f,
 843 #define jit_bner_f(v,w)         jit_new_node_pww(jit_code_bner_f,NULL,v,w)
 844 #define jit_bnei_f(v,w)         jit_new_node_pwf(jit_code_bnei_f,NULL,v,w)
 845     jit_code_bner_f,            jit_code_bnei_f,
 846 #define jit_bunltr_f(v,w)       jit_new_node_pww(jit_code_bunltr_f,NULL,v,w)
 847 #define jit_bunlti_f(v,w)       jit_new_node_pwf(jit_code_bunlti_f,NULL,v,w)
 848     jit_code_bunltr_f,          jit_code_bunlti_f,
 849 #define jit_bunler_f(v,w)       jit_new_node_pww(jit_code_bunler_f,NULL,v,w)
 850 #define jit_bunlei_f(v,w)       jit_new_node_pwf(jit_code_bunlei_f,NULL,v,w)
 851     jit_code_bunler_f,          jit_code_bunlei_f,
 852 #define jit_buneqr_f(v,w)       jit_new_node_pww(jit_code_buneqr_f,NULL,v,w)
 853 #define jit_buneqi_f(v,w)       jit_new_node_pwf(jit_code_buneqi_f,NULL,v,w)
 854     jit_code_buneqr_f,          jit_code_buneqi_f,
 855 #define jit_bunger_f(v,w)       jit_new_node_pww(jit_code_bunger_f,NULL,v,w)
 856 #define jit_bungei_f(v,w)       jit_new_node_pwf(jit_code_bungei_f,NULL,v,w)
 857     jit_code_bunger_f,          jit_code_bungei_f,
 858 #define jit_bungtr_f(v,w)       jit_new_node_pww(jit_code_bungtr_f,NULL,v,w)
 859 #define jit_bungti_f(v,w)       jit_new_node_pwf(jit_code_bungti_f,NULL,v,w)
 860     jit_code_bungtr_f,          jit_code_bungti_f,
 861 #define jit_bltgtr_f(v,w)       jit_new_node_pww(jit_code_bltgtr_f,NULL,v,w)
 862 #define jit_bltgti_f(v,w)       jit_new_node_pwf(jit_code_bltgti_f,NULL,v,w)
 863     jit_code_bltgtr_f,          jit_code_bltgti_f,
 864 #define jit_bordr_f(v,w)        jit_new_node_pww(jit_code_bordr_f,NULL,v,w)
 865 #define jit_bordi_f(v,w)        jit_new_node_pwf(jit_code_bordi_f,NULL,v,w)
 866     jit_code_bordr_f,           jit_code_bordi_f,
 867 #define jit_bunordr_f(v,w)      jit_new_node_pww(jit_code_bunordr_f,NULL,v,w)
 868 #define jit_bunordi_f(v,w)      jit_new_node_pwf(jit_code_bunordi_f,NULL,v,w)
 869     jit_code_bunordr_f,         jit_code_bunordi_f,
 870
 871 #define jit_pushargr_f(u)       _jit_pushargr_f(_jit,u)
 872 #define jit_pushargi_f(u)       _jit_pushargi_f(_jit,u)
 873     jit_code_pushargr_f,        jit_code_pushargi_f,
 874 #define jit_retr_f(u)           _jit_retr_f(_jit,u)
 875 #define jit_reti_f(u)           _jit_reti_f(_jit,u)
 876     jit_code_retr_f,            jit_code_reti_f,
 877 #define jit_retval_f(u)         _jit_retval_f(_jit,u)
 878     jit_code_retval_f,
 879
 880 #define jit_arg_d()             _jit_arg_d(_jit)
 881     jit_code_arg_d,
 882 #define jit_getarg_d(u,v)       _jit_getarg_d(_jit,u,v)
 883     jit_code_getarg_d,
 884 #define jit_putargr_d(u,v)      _jit_putargr_d(_jit,u,v)
 885 #define jit_putargi_d(u,v)      _jit_putargi_d(_jit,u,v)
 886     jit_code_putargr_d,         jit_code_putargi_d,
 887
 888 #define jit_addr_d(u,v,w)       jit_new_node_www(jit_code_addr_d,u,v,w)
 889 #define jit_addi_d(u,v,w)       jit_new_node_wwd(jit_code_addi_d,u,v,w)
 890     jit_code_addr_d,            jit_code_addi_d,
 891 #define jit_subr_d(u,v,w)       jit_new_node_www(jit_code_subr_d,u,v,w)
 892 #define jit_subi_d(u,v,w)       jit_new_node_wwd(jit_code_subi_d,u,v,w)
 893     jit_code_subr_d,            jit_code_subi_d,
 894 #define jit_rsbr_d(u,v,w)       jit_subr_d(u,w,v)
 895 #define jit_rsbi_d(u,v,w)       jit_new_node_wwd(jit_code_rsbi_d,u,v,w)
 896     jit_code_rsbi_d,
 897 #define jit_mulr_d(u,v,w)       jit_new_node_www(jit_code_mulr_d,u,v,w)
 898 #define jit_muli_d(u,v,w)       jit_new_node_wwd(jit_code_muli_d,u,v,w)
 899     jit_code_mulr_d,            jit_code_muli_d,
 900 #define jit_divr_d(u,v,w)       jit_new_node_www(jit_code_divr_d,u,v,w)
 901 #define jit_divi_d(u,v,w)       jit_new_node_wwd(jit_code_divi_d,u,v,w)
 902     jit_code_divr_d,            jit_code_divi_d,
 903
 904 #define jit_negr_d(u,v)         jit_new_node_ww(jit_code_negr_d,u,v)
 905 #define jit_absr_d(u,v)         jit_new_node_ww(jit_code_absr_d,u,v)
 906 #define jit_sqrtr_d(u,v)        jit_new_node_ww(jit_code_sqrtr_d,u,v)
 907     jit_code_negr_d,            jit_code_absr_d,        jit_code_sqrtr_d,
 908
 909 #define jit_ltr_d(u,v,w)        jit_new_node_www(jit_code_ltr_d,u,v,w)
 910 #define jit_lti_d(u,v,w)        jit_new_node_wwd(jit_code_lti_d,u,v,w)
 911     jit_code_ltr_d,             jit_code_lti_d,
 912 #define jit_ler_d(u,v,w)        jit_new_node_www(jit_code_ler_d,u,v,w)
 913 #define jit_lei_d(u,v,w)        jit_new_node_wwd(jit_code_lei_d,u,v,w)
 914     jit_code_ler_d,             jit_code_lei_d,
 915 #define jit_eqr_d(u,v,w)        jit_new_node_www(jit_code_eqr_d,u,v,w)
 916 #define jit_eqi_d(u,v,w)        jit_new_node_wwd(jit_code_eqi_d,u,v,w)
 917     jit_code_eqr_d,             jit_code_eqi_d,
 918 #define jit_ger_d(u,v,w)        jit_new_node_www(jit_code_ger_d,u,v,w)
 919 #define jit_gei_d(u,v,w)        jit_new_node_wwd(jit_code_gei_d,u,v,w)
 920     jit_code_ger_d,             jit_code_gei_d,
 921 #define jit_gtr_d(u,v,w)        jit_new_node_www(jit_code_gtr_d,u,v,w)
 922 #define jit_gti_d(u,v,w)        jit_new_node_wwd(jit_code_gti_d,u,v,w)
 923     jit_code_gtr_d,             jit_code_gti_d,
 924 #define jit_ner_d(u,v,w)        jit_new_node_www(jit_code_ner_d,u,v,w)
 925 #define jit_nei_d(u,v,w)        jit_new_node_wwd(jit_code_nei_d,u,v,w)
 926     jit_code_ner_d,             jit_code_nei_d,
 927 #define jit_unltr_d(u,v,w)      jit_new_node_www(jit_code_unltr_d,u,v,w)
 928 #define jit_unlti_d(u,v,w)      jit_new_node_wwd(jit_code_unlti_d,u,v,w)
 929     jit_code_unltr_d,           jit_code_unlti_d,
 930 #define jit_unler_d(u,v,w)      jit_new_node_www(jit_code_unler_d,u,v,w)
 931 #define jit_unlei_d(u,v,w)      jit_new_node_wwd(jit_code_unlei_d,u,v,w)
 932     jit_code_unler_d,           jit_code_unlei_d,
 933 #define jit_uneqr_d(u,v,w)      jit_new_node_www(jit_code_uneqr_d,u,v,w)
 934 #define jit_uneqi_d(u,v,w)      jit_new_node_wwd(jit_code_uneqi_d,u,v,w)
 935     jit_code_uneqr_d,           jit_code_uneqi_d,
 936 #define jit_unger_d(u,v,w)      jit_new_node_www(jit_code_unger_d,u,v,w)
 937 #define jit_ungei_d(u,v,w)      jit_new_node_wwd(jit_code_ungei_d,u,v,w)
 938     jit_code_unger_d,           jit_code_ungei_d,
 939 #define jit_ungtr_d(u,v,w)      jit_new_node_www(jit_code_ungtr_d,u,v,w)
 940 #define jit_ungti_d(u,v,w)      jit_new_node_wwd(jit_code_ungti_d,u,v,w)
 941     jit_code_ungtr_d,           jit_code_ungti_d,
 942 #define jit_ltgtr_d(u,v,w)      jit_new_node_www(jit_code_ltgtr_d,u,v,w)
 943 #define jit_ltgti_d(u,v,w)      jit_new_node_wwd(jit_code_ltgti_d,u,v,w)
 944     jit_code_ltgtr_d,           jit_code_ltgti_d,
 945 #define jit_ordr_d(u,v,w)       jit_new_node_www(jit_code_ordr_d,u,v,w)
 946 #define jit_ordi_d(u,v,w)       jit_new_node_wwd(jit_code_ordi_d,u,v,w)
 947     jit_code_ordr_d,            jit_code_ordi_d,
 948 #define jit_unordr_d(u,v,w)     jit_new_node_www(jit_code_unordr_d,u,v,w)
 949 #define jit_unordi_d(u,v,w)     jit_new_node_wwd(jit_code_unordi_d,u,v,w)
 950     jit_code_unordr_d,          jit_code_unordi_d,
 951
 952 #define jit_truncr_d_i(u,v)     jit_new_node_ww(jit_code_truncr_d_i,u,v)
 953     jit_code_truncr_d_i,
 954 #if __WORDSIZE == 32
 955 #  define jit_truncr_d(u,v)     jit_truncr_d_i(u,v)
 956 #else
 957 #  define jit_truncr_d(u,v)     jit_truncr_d_l(u,v)
 958 #  define jit_truncr_d_l(u,v)   jit_new_node_ww(jit_code_truncr_d_l,u,v)
 959 #endif
 960     jit_code_truncr_d_l,
 961 #define jit_extr_d(u,v)         jit_new_node_ww(jit_code_extr_d,u,v)
 962 #define jit_extr_f_d(u,v)       jit_new_node_ww(jit_code_extr_f_d,u,v)
 963     jit_code_extr_d,            jit_code_extr_f_d,
 964 #define jit_movr_d(u,v)         jit_new_node_ww(jit_code_movr_d,u,v)
 965 #define jit_movi_d(u,v)         jit_new_node_wd(jit_code_movi_d,u,v)
 966     jit_code_movr_d,            jit_code_movi_d,
 967
 968 #define jit_ldr_d(u,v)          jit_new_node_ww(jit_code_ldr_d,u,v)
 969 #define jit_ldi_d(u,v)          jit_new_node_wp(jit_code_ldi_d,u,v)
 970     jit_code_ldr_d,             jit_code_ldi_d,
 971 #define jit_ldxr_d(u,v,w)       jit_new_node_www(jit_code_ldxr_d,u,v,w)
 972 #define jit_ldxi_d(u,v,w)       jit_new_node_www(jit_code_ldxi_d,u,v,w)
 973     jit_code_ldxr_d,            jit_code_ldxi_d,
 974 #define jit_str_d(u,v)          jit_new_node_ww(jit_code_str_d,u,v)
 975 #define jit_sti_d(u,v)          jit_new_node_pw(jit_code_sti_d,u,v)
 976     jit_code_str_d,             jit_code_sti_d,
 977 #define jit_stxr_d(u,v,w)       jit_new_node_www(jit_code_stxr_d,u,v,w)
 978 #define jit_stxi_d(u,v,w)       jit_new_node_www(jit_code_stxi_d,u,v,w)
 979     jit_code_stxr_d,            jit_code_stxi_d,
 980
 981 #define jit_bltr_d(v,w)         jit_new_node_pww(jit_code_bltr_d,NULL,v,w)
 982 #define jit_blti_d(v,w)         jit_new_node_pwd(jit_code_blti_d,NULL,v,w)
 983     jit_code_bltr_d,            jit_code_blti_d,
 984 #define jit_bler_d(v,w)         jit_new_node_pww(jit_code_bler_d,NULL,v,w)
 985 #define jit_blei_d(v,w)         jit_new_node_pwd(jit_code_blei_d,NULL,v,w)
 986     jit_code_bler_d,            jit_code_blei_d,
 987 #define jit_beqr_d(v,w)         jit_new_node_pww(jit_code_beqr_d,NULL,v,w)
 988 #define jit_beqi_d(v,w)         jit_new_node_pwd(jit_code_beqi_d,NULL,v,w)
 989     jit_code_beqr_d,            jit_code_beqi_d,
 990 #define jit_bger_d(v,w)         jit_new_node_pww(jit_code_bger_d,NULL,v,w)
 991 #define jit_bgei_d(v,w)         jit_new_node_pwd(jit_code_bgei_d,NULL,v,w)
 992     jit_code_bger_d,            jit_code_bgei_d,
 993 #define jit_bgtr_d(v,w)         jit_new_node_pww(jit_code_bgtr_d,NULL,v,w)
 994 #define jit_bgti_d(v,w)         jit_new_node_pwd(jit_code_bgti_d,NULL,v,w)
 995     jit_code_bgtr_d,            jit_code_bgti_d,
 996 #define jit_bner_d(v,w)         jit_new_node_pww(jit_code_bner_d,NULL,v,w)
 997 #define jit_bnei_d(v,w)         jit_new_node_pwd(jit_code_bnei_d,NULL,v,w)
 998     jit_code_bner_d,            jit_code_bnei_d,
 999 #define jit_bunltr_d(v,w)       jit_new_node_pww(jit_code_bunltr_d,NULL,v,w)
1000 #define jit_bunlti_d(v,w)       jit_new_node_pwd(jit_code_bunlti_d,NULL,v,w)
1001     jit_code_bunltr_d,          jit_code_bunlti_d,
1002 #define jit_bunler_d(v,w)       jit_new_node_pww(jit_code_bunler_d,NULL,v,w)
1003 #define jit_bunlei_d(v,w)       jit_new_node_pwd(jit_code_bunlei_d,NULL,v,w)
1004     jit_code_bunler_d,          jit_code_bunlei_d,
1005 #define jit_buneqr_d(v,w)       jit_new_node_pww(jit_code_buneqr_d,NULL,v,w)
1006 #define jit_buneqi_d(v,w)       jit_new_node_pwd(jit_code_buneqi_d,NULL,v,w)
1007     jit_code_buneqr_d,          jit_code_buneqi_d,
1008 #define jit_bunger_d(v,w)       jit_new_node_pww(jit_code_bunger_d,NULL,v,w)
1009 #define jit_bungei_d(v,w)       jit_new_node_pwd(jit_code_bungei_d,NULL,v,w)
1010     jit_code_bunger_d,          jit_code_bungei_d,
1011 #define jit_bungtr_d(v,w)       jit_new_node_pww(jit_code_bungtr_d,NULL,v,w)
1012 #define jit_bungti_d(v,w)       jit_new_node_pwd(jit_code_bungti_d,NULL,v,w)
1013     jit_code_bungtr_d,          jit_code_bungti_d,
1014 #define jit_bltgtr_d(v,w)       jit_new_node_pww(jit_code_bltgtr_d,NULL,v,w)
1015 #define jit_bltgti_d(v,w)       jit_new_node_pwd(jit_code_bltgti_d,NULL,v,w)
1016     jit_code_bltgtr_d,          jit_code_bltgti_d,
1017 #define jit_bordr_d(v,w)        jit_new_node_pww(jit_code_bordr_d,NULL,v,w)
1018 #define jit_bordi_d(v,w)        jit_new_node_pwd(jit_code_bordi_d,NULL,v,w)
1019     jit_code_bordr_d,           jit_code_bordi_d,
1020 #define jit_bunordr_d(v,w)      jit_new_node_pww(jit_code_bunordr_d,NULL,v,w)
1021 #define jit_bunordi_d(v,w)      jit_new_node_pwd(jit_code_bunordi_d,NULL,v,w)
1022     jit_code_bunordr_d,         jit_code_bunordi_d,
1023
1024 #define jit_pushargr_d(u)       _jit_pushargr_d(_jit,u)
1025 #define jit_pushargi_d(u)       _jit_pushargi_d(_jit,u)
1026     jit_code_pushargr_d,        jit_code_pushargi_d,
1027 #define jit_retr_d(u)           _jit_retr_d(_jit,u)
1028 #define jit_reti_d(u)           _jit_reti_d(_jit,u)
1029     jit_code_retr_d,            jit_code_reti_d,
1030 #define jit_retval_d(u)         _jit_retval_d(_jit,u)
1031     jit_code_retval_d,
1032
1033     /* Special internal backend specific codes */
1034     jit_code_movr_w_f,          jit_code_movr_ww_d,     /* w* -> f|d */
1035 #define jit_movr_w_f(u, v)      jit_new_node_ww(jit_code_movr_w_f, u, v)
1036 #define jit_movr_ww_d(u, v, w)  jit_new_node_www(jit_code_movr_ww_d, u, v, w)
1037     jit_code_movr_w_d,                                  /* w -> d */
1038 #define jit_movr_w_d(u, v)      jit_new_node_ww(jit_code_movr_w_d, u, v)
1039
1040     jit_code_movr_f_w,          jit_code_movi_f_w,      /* f|d -> w* */
1041 #define jit_movr_f_w(u, v)      jit_new_node_ww(jit_code_movr_f_w, u, v)
1042 #define jit_movi_f_w(u, v)      jit_new_node_wf(jit_code_movi_f_w, u, v)
1043     jit_code_movr_d_ww,         jit_code_movi_d_ww,
1044 #define jit_movr_d_ww(u, v, w)  jit_new_node_www(jit_code_movr_d_ww, u, v, w)
1045 #define jit_movi_d_ww(u, v, w)  jit_new_node_wwd(jit_code_movi_d_ww, u, v, w)
1046
1047     jit_code_movr_d_w,          jit_code_movi_d_w,      /* d -> w */
1048 #define jit_movr_d_w(u, v)      jit_new_node_ww(jit_code_movr_d_w, u, v)
1049 #define jit_movi_d_w(u, v)      jit_new_node_wd(jit_code_movi_d_w, u, v)
1050
1051 #define jit_clor(u,v)           jit_new_node_ww(jit_code_clor,u,v)
1052 #define jit_clzr(u,v)           jit_new_node_ww(jit_code_clzr,u,v)
1053     jit_code_clor,              jit_code_clzr,
1054
1055 #define jit_ctor(u,v)           jit_new_node_ww(jit_code_ctor,u,v)
1056 #define jit_ctzr(u,v)           jit_new_node_ww(jit_code_ctzr,u,v)
1057     jit_code_ctor,              jit_code_ctzr,
1058
1059     jit_code_last_code
1060 } jit_code_t;
1061
1062 typedef void* (*jit_alloc_func_ptr)     (size_t);
1063 typedef void* (*jit_realloc_func_ptr)   (void*, size_t);
1064 typedef void  (*jit_free_func_ptr)      (void*);
1065
1066 /*
1067  * Prototypes
1068  */
1069 extern void init_jit(const char*);
1070 extern void finish_jit(void);
1071
1072 extern jit_state_t *jit_new_state(void);
1073 #define jit_clear_state()       _jit_clear_state(_jit)
1074 extern void _jit_clear_state(jit_state_t*);
1075 #define jit_destroy_state()     _jit_destroy_state(_jit)
1076 extern void _jit_destroy_state(jit_state_t*);
1077
1078 #define jit_address(node)       _jit_address(_jit, node)
1079 extern jit_pointer_t _jit_address(jit_state_t*, jit_node_t*);
1080 extern jit_node_t *_jit_name(jit_state_t*, const char*);
1081 extern jit_node_t *_jit_note(jit_state_t*, const char*, int);
1082 extern jit_node_t *_jit_label(jit_state_t*);
1083 extern jit_node_t *_jit_forward(jit_state_t*);
1084 extern jit_node_t *_jit_indirect(jit_state_t*);
1085 extern void _jit_link(jit_state_t*, jit_node_t*);
1086 #define jit_forward_p(u)        _jit_forward_p(_jit,u)
1087 extern jit_bool_t _jit_forward_p(jit_state_t*,jit_node_t*);
1088 #define jit_indirect_p(u)       _jit_indirect_p(_jit,u)
1089 extern jit_bool_t _jit_indirect_p(jit_state_t*,jit_node_t*);
1090 #define jit_target_p(u)         _jit_target_p(_jit,u)
1091 extern jit_bool_t _jit_target_p(jit_state_t*,jit_node_t*);
1092
1093 extern void _jit_prolog(jit_state_t*);
1094
1095 extern jit_int32_t _jit_allocai(jit_state_t*, jit_int32_t);
1096 extern void _jit_allocar(jit_state_t*, jit_int32_t, jit_int32_t);
1097 extern void _jit_ellipsis(jit_state_t*);
1098
1099 extern jit_node_t *_jit_arg(jit_state_t*, jit_code_t);
1100
1101 extern void _jit_getarg_c(jit_state_t*, jit_gpr_t, jit_node_t*);
1102 extern void _jit_getarg_uc(jit_state_t*, jit_gpr_t, jit_node_t*);
1103 extern void _jit_getarg_s(jit_state_t*, jit_gpr_t, jit_node_t*);
1104 extern void _jit_getarg_us(jit_state_t*, jit_gpr_t, jit_node_t*);
1105 extern void _jit_getarg_i(jit_state_t*, jit_gpr_t, jit_node_t*);
1106 #if __WORDSIZE == 64
1107 extern void _jit_getarg_ui(jit_state_t*, jit_gpr_t, jit_node_t*);
1108 extern void _jit_getarg_l(jit_state_t*, jit_gpr_t, jit_node_t*);
1109 #endif
1110
1111 extern void _jit_putargr(jit_state_t*, jit_gpr_t, jit_node_t*, jit_code_t);
1112 extern void _jit_putargi(jit_state_t*, jit_word_t, jit_node_t*, jit_code_t);
1113
1114 extern void _jit_prepare(jit_state_t*);
1115 extern void _jit_ellipsis(jit_state_t*);
1116 extern void _jit_va_push(jit_state_t*, jit_gpr_t);
1117
1118 extern void _jit_pushargr(jit_state_t*, jit_gpr_t, jit_code_t);
1119 extern void _jit_pushargi(jit_state_t*, jit_word_t, jit_code_t);
1120
1121 extern void _jit_finishr(jit_state_t*, jit_gpr_t);
1122 extern jit_node_t *_jit_finishi(jit_state_t*, jit_pointer_t);
1123 extern void _jit_ret(jit_state_t*);
1124
1125 extern void _jit_retr(jit_state_t*, jit_gpr_t, jit_code_t);
1126 extern void _jit_reti(jit_state_t*, jit_word_t, jit_code_t);
1127
1128 extern void _jit_retval_c(jit_state_t*, jit_gpr_t);
1129 extern void _jit_retval_uc(jit_state_t*, jit_gpr_t);
1130 extern void _jit_retval_s(jit_state_t*, jit_gpr_t);
1131 extern void _jit_retval_us(jit_state_t*, jit_gpr_t);
1132 extern void _jit_retval_i(jit_state_t*, jit_gpr_t);
1133 #if __WORDSIZE == 64
1134 extern void _jit_retval_ui(jit_state_t*, jit_gpr_t);
1135 extern void _jit_retval_l(jit_state_t*, jit_gpr_t);
1136 #endif
1137
1138 extern void _jit_epilog(jit_state_t*);
1139
1140 #define jit_patch(u)            _jit_patch(_jit,u)
1141 extern void _jit_patch(jit_state_t*, jit_node_t*);
1142 #define jit_patch_at(u,v)       _jit_patch_at(_jit,u,v)
1143 extern void _jit_patch_at(jit_state_t*, jit_node_t*, jit_node_t*);
1144 #define jit_patch_abs(u,v)      _jit_patch_abs(_jit,u,v)
1145 extern void _jit_patch_abs(jit_state_t*, jit_node_t*, jit_pointer_t);
1146 #define jit_realize()           _jit_realize(_jit)
1147 extern void _jit_realize(jit_state_t*);
1148 #define jit_get_code(u)         _jit_get_code(_jit,u)
1149 extern jit_pointer_t _jit_get_code(jit_state_t*, jit_word_t*);
1150 #define jit_set_code(u,v)       _jit_set_code(_jit,u,v)
1151 extern void _jit_set_code(jit_state_t*, jit_pointer_t, jit_word_t);
1152 #define jit_get_data(u,v)       _jit_get_data(_jit,u,v)
1153 extern jit_pointer_t _jit_get_data(jit_state_t*, jit_word_t*, jit_word_t*);
1154 #define jit_set_data(u,v,w)     _jit_set_data(_jit,u,v,w)
1155 extern void _jit_set_data(jit_state_t*, jit_pointer_t, jit_word_t, jit_word_t);
1156 #define jit_frame(u)            _jit_frame(_jit,u)
1157 extern void _jit_frame(jit_state_t*, jit_int32_t);
1158 #define jit_tramp(u)            _jit_tramp(_jit,u)
1159 extern void _jit_tramp(jit_state_t*, jit_int32_t);
1160 #define jit_emit()              _jit_emit(_jit)
1161 extern jit_pointer_t _jit_emit(jit_state_t*);
1162 #define jit_unprotect()         _jit_unprotect(_jit)
1163 extern void _jit_unprotect(jit_state_t*);
1164 #define jit_protect()           _jit_protect(_jit)
1165 extern void _jit_protect(jit_state_t*);
1166
1167 #define jit_print()             _jit_print(_jit)
1168 extern void _jit_print(jit_state_t*);
1169
1170 extern jit_node_t *_jit_arg_f(jit_state_t*);
1171 extern void _jit_getarg_f(jit_state_t*, jit_fpr_t, jit_node_t*);
1172 extern void _jit_putargr_f(jit_state_t*, jit_fpr_t, jit_node_t*);
1173 extern void _jit_putargi_f(jit_state_t*, jit_float32_t, jit_node_t*);
1174 extern void _jit_pushargr_f(jit_state_t*, jit_fpr_t);
1175 extern void _jit_pushargi_f(jit_state_t*, jit_float32_t);
1176 extern void _jit_retr_f(jit_state_t*, jit_fpr_t);
1177 extern void _jit_reti_f(jit_state_t*, jit_float32_t);
1178 extern void _jit_retval_f(jit_state_t*, jit_fpr_t);
1179
1180 extern jit_node_t *_jit_arg_d(jit_state_t*);
1181 extern void _jit_getarg_d(jit_state_t*, jit_fpr_t, jit_node_t*);
1182 extern void _jit_putargr_d(jit_state_t*, jit_fpr_t, jit_node_t*);
1183 extern void _jit_putargi_d(jit_state_t*, jit_float64_t, jit_node_t*);
1184 extern void _jit_pushargr_d(jit_state_t*, jit_fpr_t);
1185 extern void _jit_pushargi_d(jit_state_t*, jit_float64_t);
1186 extern void _jit_retr_d(jit_state_t*, jit_fpr_t);
1187 extern void _jit_reti_d(jit_state_t*, jit_float64_t);
1188 extern void _jit_retval_d(jit_state_t*, jit_fpr_t);
1189
1190 #define jit_get_reg(s)          _jit_get_reg(_jit,s)
1191 extern jit_int32_t _jit_get_reg(jit_state_t*, jit_int32_t);
1192
1193 #define jit_unget_reg(r)        _jit_unget_reg(_jit,r)
1194 extern void _jit_unget_reg(jit_state_t*, jit_int32_t);
1195
1196 #define jit_new_node(c)         _jit_new_node(_jit,c)
1197 extern jit_node_t *_jit_new_node(jit_state_t*, jit_code_t);
1198 #define jit_new_node_w(c,u)     _jit_new_node_w(_jit,c,u)
1199 extern jit_node_t *_jit_new_node_w(jit_state_t*, jit_code_t,
1200                                    jit_word_t);
1201 #define jit_new_node_f(c,u)     _jit_new_node_f(_jit,c,u)
1202 extern jit_node_t *_jit_new_node_f(jit_state_t*, jit_code_t,
1203                                    jit_float32_t);
1204 #define jit_new_node_d(c,u)     _jit_new_node_d(_jit,c,u)
1205 extern jit_node_t *_jit_new_node_d(jit_state_t*, jit_code_t,
1206                                    jit_float64_t);
1207 #define jit_new_node_p(c,u)     _jit_new_node_p(_jit,c,u)
1208 extern jit_node_t *_jit_new_node_p(jit_state_t*, jit_code_t,
1209                                    jit_pointer_t);
1210 #define jit_new_node_ww(c,u,v)  _jit_new_node_ww(_jit,c,u,v)
1211 extern jit_node_t *_jit_new_node_ww(jit_state_t*,jit_code_t,
1212                                     jit_word_t, jit_word_t);
1213 #define jit_new_node_wp(c,u,v)  _jit_new_node_wp(_jit,c,u,v)
1214 extern jit_node_t *_jit_new_node_wp(jit_state_t*,jit_code_t,
1215                                     jit_word_t, jit_pointer_t);
1216 #define jit_new_node_fp(c,u,v)  _jit_new_node_fp(_jit,c,u,v)
1217 extern jit_node_t *_jit_new_node_fp(jit_state_t*,jit_code_t,
1218                                     jit_float32_t, jit_pointer_t);
1219 #define jit_new_node_dp(c,u,v)  _jit_new_node_dp(_jit,c,u,v)
1220 extern jit_node_t *_jit_new_node_dp(jit_state_t*,jit_code_t,
1221                                     jit_float64_t, jit_pointer_t);
1222 #define jit_new_node_pw(c,u,v)  _jit_new_node_pw(_jit,c,u,v)
1223 extern jit_node_t *_jit_new_node_pw(jit_state_t*,jit_code_t,
1224                                     jit_pointer_t, jit_word_t);
1225 #define jit_new_node_wf(c,u,v)  _jit_new_node_wf(_jit,c,u,v)
1226 extern jit_node_t *_jit_new_node_wf(jit_state_t*, jit_code_t,
1227                                     jit_word_t, jit_float32_t);
1228 #define jit_new_node_wd(c,u,v)  _jit_new_node_wd(_jit,c,u,v)
1229 extern jit_node_t *_jit_new_node_wd(jit_state_t*, jit_code_t,
1230                                     jit_word_t, jit_float64_t);
1231 #define jit_new_node_www(c,u,v,w) _jit_new_node_www(_jit,c,u,v,w)
1232 extern jit_node_t *_jit_new_node_www(jit_state_t*, jit_code_t,
1233                                      jit_word_t, jit_word_t, jit_word_t);
1234 #define jit_new_node_qww(c,l,h,v,w) _jit_new_node_qww(_jit,c,l,h,v,w)
1235 extern jit_node_t *_jit_new_node_qww(jit_state_t*, jit_code_t,
1236                                      jit_int32_t, jit_int32_t,
1237                                      jit_word_t, jit_word_t);
1238 #define jit_new_node_wwq(c,u,v,l,h) _jit_new_node_wwq(_jit,c,u,v,l,h)
1239 extern jit_node_t *_jit_new_node_wwq(jit_state_t*, jit_code_t,
1240                                      jit_word_t, jit_word_t,
1241                                      jit_int32_t, jit_int32_t);
1242 #define jit_new_node_wwf(c,u,v,w) _jit_new_node_wwf(_jit,c,u,v,w)
1243 extern jit_node_t *_jit_new_node_wwf(jit_state_t*, jit_code_t,
1244                                      jit_word_t, jit_word_t, jit_float32_t);
1245 #define jit_new_node_wwd(c,u,v,w) _jit_new_node_wwd(_jit,c,u,v,w)
1246 extern jit_node_t *_jit_new_node_wwd(jit_state_t*, jit_code_t,
1247                                      jit_word_t, jit_word_t, jit_float64_t);
1248 #define jit_new_node_pww(c,u,v,w) _jit_new_node_pww(_jit,c,u,v,w)
1249 extern jit_node_t *_jit_new_node_pww(jit_state_t*, jit_code_t,
1250                                      jit_pointer_t, jit_word_t, jit_word_t);
1251 #define jit_new_node_pwf(c,u,v,w) _jit_new_node_pwf(_jit,c,u,v,w)
1252 extern jit_node_t *_jit_new_node_pwf(jit_state_t*, jit_code_t,
1253                                      jit_pointer_t, jit_word_t, jit_float32_t);
1254 #define jit_new_node_pwd(c,u,v,w) _jit_new_node_pwd(_jit,c,u,v,w)
1255 extern jit_node_t *_jit_new_node_pwd(jit_state_t*, jit_code_t,
1256                                      jit_pointer_t, jit_word_t, jit_float64_t);
1257
1258 #define jit_arg_register_p(u)           _jit_arg_register_p(_jit,u)
1259 extern jit_bool_t _jit_arg_register_p(jit_state_t*, jit_node_t*);
1260 #define jit_callee_save_p(u)            _jit_callee_save_p(_jit,u)
1261 extern jit_bool_t _jit_callee_save_p(jit_state_t*, jit_int32_t);
1262 #define jit_pointer_p(u)                _jit_pointer_p(_jit,u)
1263 extern jit_bool_t _jit_pointer_p(jit_state_t*,jit_pointer_t);
1264
1265 #define jit_get_note(n,u,v,w)   _jit_get_note(_jit,n,u,v,w)
1266 extern jit_bool_t _jit_get_note(jit_state_t*,jit_pointer_t,char**,char**,int*);
1267
1268 #define jit_disassemble()               _jit_disassemble(_jit)
1269 extern void _jit_disassemble(jit_state_t*);
1270
1271 extern void jit_set_memory_functions(jit_alloc_func_ptr,
1272                                      jit_realloc_func_ptr,
1273                                      jit_free_func_ptr);
1274 extern void jit_get_memory_functions(jit_alloc_func_ptr*,
1275                                      jit_realloc_func_ptr*,
1276                                      jit_free_func_ptr*);
1277
1278 #endif /* _lightning_h */