Merge pull request #749 from pcercuei/lightrec-allow-mem-override
[pcsx_rearmed.git] / include / lightning / lightning.h
1 /*
2  * Copyright (C) 2012-2023  Free Software Foundation, Inc.
3  *
4  * This file is part of GNU lightning.
5  *
6  * GNU lightning is free software; you can redistribute it and/or modify it
7  * under the terms of the GNU Lesser General Public License as published
8  * by the Free Software Foundation; either version 3, or (at your option)
9  * any later version.
10  *
11  * GNU lightning is distributed in the hope that it will be useful, but
12  * WITHOUT ANY WARRANTY; without even the implied warranty of MERCHANTABILITY
13  * or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU Lesser General Public
14  * License for more details.
15  *
16  * Authors:
17  *      Paulo Cesar Pereira de Andrade
18  */
19
20 #ifndef _lightning_h
21 #define _lightning_h
22
23 #include <unistd.h>
24 #include <stdlib.h>
25 #include <stdint.h>
26 #include <string.h>
27 #include <pthread.h>
28
29 #if defined(__hpux) && defined(__hppa__)
30 #  include <machine/param.h>
31 #endif
32 #if defined(__alpha__) && defined(__osf__)
33 #  include <machine/endian.h>
34 #endif
35
36 #ifndef __WORDSIZE
37 #  if defined(WORDSIZE)                         /* ppc darwin */
38 #    define __WORDSIZE          WORDSIZE
39 #  elif defined(__SIZEOF_POINTER__)             /* ppc aix */
40 #    define __WORDSIZE          (__SIZEOF_POINTER__ << 3)
41 #  elif defined(_ILP32)                         /* hppa hp-ux */
42 #    define __WORDSIZE          32
43 #  elif defined(_LP64)                          /* ia64 hp-ux (with cc +DD64) */
44 #    define __WORDSIZE          64
45 #  elif defined(_MIPS_SZPTR)                    /* mips irix */
46 #    if _MIPS_SZPTR == 32
47 #      define __WORDSIZE        32
48 #    else
49 #      define __WORDSIZE        64
50 #    endif
51 #  else                                         /* From FreeBSD 9.1 stdint.h */
52 #    if defined(UINTPTR_MAX) && defined(UINT64_MAX) && \
53         (UINTPTR_MAX == UINT64_MAX)
54 #      define __WORDSIZE        64
55 #    else
56 #      define __WORDSIZE        32
57 #    endif
58 #  endif
59 #endif
60 #ifndef __LITTLE_ENDIAN
61 #  if defined(LITTLE_ENDIAN)                    /* ppc darwin */
62 #    define __LITTLE_ENDIAN     LITTLE_ENDIAN
63 #  elif defined(__ORDER_LITTLE_ENDIAN__)        /* ppc aix */
64 #    define __LITTLE_ENDIAN     __ORDER_LITTLE_ENDIAN__
65 #  else
66 #    define __LITTLE_ENDIAN     1234
67 #  endif
68 #endif
69 #ifndef __BIG_ENDIAN
70 #  if defined(BIG_ENDIAN)                       /* ppc darwin */
71 #    define __BIG_ENDIAN        BIG_ENDIAN
72 #  elif defined(__ORDER_BIG_ENDIAN__)           /* ppc aix */
73 #    define __BIG_ENDIAN        __ORDER_BIG_ENDIAN__
74 #  else
75 #    define __BIG_ENDIAN        4321
76 #  endif
77 #endif
78 #ifndef __BYTE_ORDER
79 #  if defined(BYTE_ORDER)                       /* ppc darwin */
80 #    define __BYTE_ORDER        BYTE_ORDER
81 #  elif defined(__BYTE_ORDER__)                 /* ppc aix */
82 #    define __BYTE_ORDER        __BYTE_ORDER__
83 #  elif defined(_BIG_ENDIAN)                    /* hppa hp-ux */
84 #    define __BYTE_ORDER        __BIG_ENDIAN
85 #  elif defined(__BIG_ENDIAN__)                 /* ia64 hp-ux */
86 #    define __BYTE_ORDER        __BIG_ENDIAN
87 #  elif defined(__i386__)                       /* 32 bit x86 solaris */
88 #    define __BYTE_ORDER        __LITTLE_ENDIAN
89 #  elif defined(__x86_64__)                     /* 64 bit x86 solaris */
90 #    define __BYTE_ORDER        __LITTLE_ENDIAN
91 #  elif defined(__MIPSEB)                       /* mips irix */
92 #    define __BYTE_ORDER        __BIG_ENDIAN
93 #  else
94 #    error cannot figure __BYTE_ORDER
95 #  endif
96 #endif
97
98 typedef signed char             jit_int8_t;
99 typedef unsigned char           jit_uint8_t;
100 typedef signed short            jit_int16_t;
101 typedef unsigned short          jit_uint16_t;
102 typedef signed int              jit_int32_t;
103 typedef unsigned int            jit_uint32_t;
104 #if __WORDSIZE == 32
105 typedef signed long long        jit_int64_t;
106 typedef unsigned long long      jit_uint64_t;
107 typedef jit_int32_t             jit_word_t;
108 typedef jit_uint32_t            jit_uword_t;
109 #elif (_WIN32 && !__CYGWIN__)
110 typedef signed long long        jit_int64_t;
111 typedef unsigned long long      jit_uint64_t;
112 typedef jit_int64_t             jit_word_t;
113 typedef jit_uint64_t            jit_uword_t;
114 #else
115 typedef signed long             jit_int64_t;
116 typedef unsigned long           jit_uint64_t;
117 typedef jit_int64_t             jit_word_t;
118 typedef jit_uint64_t            jit_uword_t;
119 #endif
120 typedef float                   jit_float32_t;
121 typedef double                  jit_float64_t;
122 typedef void*                   jit_pointer_t;
123 typedef jit_int32_t             jit_bool_t;
124 typedef jit_int32_t             jit_gpr_t;
125 typedef jit_int32_t             jit_fpr_t;
126
127 #if !defined(__powerpc__) && \
128         (defined(__POWERPC__) || defined(__ppc__) || defined(__PPC__))
129 #define __powerpc__ 1
130 #endif
131
132 #if defined(__i386__) || defined(__x86_64__)
133 #  include <lightning/jit_x86.h>
134 #elif defined(__mips__)
135 #  include <lightning/jit_mips.h>
136 #elif defined(__arm__)
137 #  include <lightning/jit_arm.h>
138 #elif defined(__powerpc__)
139 #  include <lightning/jit_ppc.h>
140 #elif defined(__sparc__)
141 #  include <lightning/jit_sparc.h>
142 #elif defined(__ia64__)
143 #  include <lightning/jit_ia64.h>
144 #elif defined(__hppa__)
145 #  include <lightning/jit_hppa.h>
146 #elif defined(__aarch64__)
147 #  include <lightning/jit_aarch64.h>
148 #elif defined(__s390__) || defined(__s390x__)
149 #  include <lightning/jit_s390.h>
150 #elif defined(__alpha__)
151 #  include <lightning/jit_alpha.h>
152 #elif defined(__riscv)
153 #  include <lightning/jit_riscv.h>
154 #elif defined(__loongarch__)
155 #  include <lightning/jit_loongarch.h>
156 #endif
157
158 #define jit_flag_node           0x0001  /* patch node not absolute */
159 #define jit_flag_patch          0x0002  /* jump already patched */
160 #define jit_flag_data           0x0004  /* data in the constant pool */
161 #define jit_flag_use            0x0008  /* do not remove marker label */
162 #define jit_flag_synth          0x0010  /* synthesized instruction */
163 #define jit_flag_head           0x1000  /* label reached by normal flow */
164 #define jit_flag_varargs        0x2000  /* call{r,i} to varargs function */
165
166 #define JIT_R(index)            jit_r(index)
167 #define JIT_V(index)            jit_v(index)
168 #define JIT_F(index)            jit_f(index)
169 #define JIT_R_NUM               jit_r_num()
170 #define JIT_V_NUM               jit_v_num()
171 #define JIT_F_NUM               jit_f_num()
172
173 #define JIT_DISABLE_DATA        1       /* force synthesize of constants */
174 #define JIT_DISABLE_NOTE        2       /* disable debug info generation */
175
176 #define jit_class_chk           0x02000000      /* just checking */
177 #define jit_class_arg           0x08000000      /* argument register */
178 #define jit_class_sav           0x10000000      /* callee save */
179 #define jit_class_gpr           0x20000000      /* general purpose */
180 #define jit_class_fpr           0x40000000      /* float */
181 #define jit_class(reg)          ((reg) & 0xffff0000)
182 #define jit_regno(reg)          ((reg) & 0x00007fff)
183
184 typedef struct jit_node         jit_node_t;
185 typedef struct jit_state        jit_state_t;
186
187 typedef enum {
188     jit_code_data,
189 #define jit_live(u)             jit_new_node_w(jit_code_live, u)
190 #define jit_align(u)            jit_new_node_w(jit_code_align, u)
191     jit_code_live,              jit_code_align,
192     jit_code_save,              jit_code_load,
193 #define jit_skip(u)             jit_new_node_w(jit_code_skip, u)
194     jit_code_skip,
195 #define jit_name(u)             _jit_name(_jit,u)
196     jit_code_name,
197 #define jit_note(u, v)          _jit_note(_jit, u, v)
198 #define jit_label()             _jit_label(_jit)
199 #define jit_forward()           _jit_forward(_jit)
200 #define jit_indirect()          _jit_indirect(_jit)
201 #define jit_link(u)             _jit_link(_jit,u)
202     jit_code_note,              jit_code_label,
203
204 #define jit_prolog()            _jit_prolog(_jit)
205     jit_code_prolog,
206
207 #define jit_ellipsis()          _jit_ellipsis(_jit)
208     jit_code_ellipsis,
209 #define jit_va_push(u)          _jit_va_push(_jit,u)
210     jit_code_va_push,
211 #define jit_allocai(u)          _jit_allocai(_jit,u)
212 #define jit_allocar(u, v)       _jit_allocar(_jit,u,v)
213     jit_code_allocai,           jit_code_allocar,
214
215 #define jit_arg_c()             _jit_arg(_jit, jit_code_arg_c)
216 #define jit_arg_s()             _jit_arg(_jit, jit_code_arg_s)
217 #define jit_arg_i()             _jit_arg(_jit, jit_code_arg_i)
218 # if __WORDSIZE == 32
219 #  define jit_arg()             jit_arg_i()
220 #else
221 #  define jit_arg_l()           _jit_arg(_jit, jit_code_arg_l)
222 #  define jit_arg()             jit_arg_l()
223 #endif
224     jit_code_arg_c,             jit_code_arg_s,
225     jit_code_arg_i,             jit_code_arg_l,
226 #if __WORDSIZE == 32
227 #  define jit_code_arg          jit_code_arg_i
228 #else
229 #  define jit_code_arg          jit_code_arg_l
230 #endif
231
232 #define jit_getarg_c(u,v)       _jit_getarg_c(_jit,u,v)
233 #define jit_getarg_uc(u,v)      _jit_getarg_uc(_jit,u,v)
234 #define jit_getarg_s(u,v)       _jit_getarg_s(_jit,u,v)
235 #define jit_getarg_us(u,v)      _jit_getarg_us(_jit,u,v)
236 #define jit_getarg_i(u,v)       _jit_getarg_i(_jit,u,v)
237 #if __WORDSIZE == 32
238 #  define jit_getarg(u,v)       jit_getarg_i(u,v)
239 #else
240 #  define jit_getarg_ui(u,v)    _jit_getarg_ui(_jit,u,v)
241 #  define jit_getarg_l(u,v)     _jit_getarg_l(_jit,u,v)
242 #  define jit_getarg(u,v)       jit_getarg_l(u,v)
243 #endif
244     jit_code_getarg_c,          jit_code_getarg_uc,
245     jit_code_getarg_s,          jit_code_getarg_us,
246     jit_code_getarg_i,          jit_code_getarg_ui,
247     jit_code_getarg_l,
248 #if __WORDSIZE == 32
249 #  define jit_code_getarg       jit_code_getarg_i
250 #else
251 #  define jit_code_getarg       jit_code_getarg_l
252 #endif
253
254 #define jit_putargr_c(u,v)      _jit_putargr(_jit,u,v,jit_code_putargr_c)
255 #define jit_putargi_c(u,v)      _jit_putargi(_jit,u,v,jit_code_putargi_c)
256 #define jit_putargr_uc(u,v)     _jit_putargr(_jit,u,v,jit_code_putargr_uc)
257 #define jit_putargi_uc(u,v)     _jit_putargi(_jit,u,v,jit_code_putargi_uc)
258 #define jit_putargr_s(u,v)      _jit_putargr(_jit,u,v,jit_code_putargr_s)
259 #define jit_putargi_s(u,v)      _jit_putargi(_jit,u,v,jit_code_putargi_s)
260 #define jit_putargr_us(u,v)     _jit_putargr(_jit,u,v,jit_code_putargr_us)
261 #define jit_putargi_us(u,v)     _jit_putargi(_jit,u,v,jit_code_putargi_us)
262 #define jit_putargr_i(u,v)      _jit_putargr(_jit,u,v,jit_code_putargr_i)
263 #define jit_putargi_i(u,v)      _jit_putargi(_jit,u,v,jit_code_putargi_i)
264 #if __WORDSIZE == 32
265 #  define jit_putargr(u,v)      jit_putargr_i(u,v)
266 #  define jit_putargi(u,v)      jit_putargi_i(u,v)
267 #else
268 #  define jit_putargr_ui(u,v)   _jit_putargr(_jit,u,v,jit_code_putargr_ui)
269 #  define jit_putargi_ui(u,v)   _jit_putargi(_jit,u,v,jit_code_putargi_ui)
270 #  define jit_putargr_l(u,v)    _jit_putargr(_jit,u,v,jit_code_putargr_l)
271 #  define jit_putargi_l(u,v)    _jit_putargi(_jit,u,v,jit_code_putargi_l)
272 #  define jit_putargr(u,v)      jit_putargr_l(u,v)
273 #  define jit_putargi(u,v)      jit_putargi_l(u,v)
274 #endif
275     jit_code_putargr_c,         jit_code_putargi_c,
276     jit_code_putargr_uc,        jit_code_putargi_uc,
277     jit_code_putargr_s,         jit_code_putargi_s,
278     jit_code_putargr_us,        jit_code_putargi_us,
279     jit_code_putargr_i,         jit_code_putargi_i,
280     jit_code_putargr_ui,        jit_code_putargi_ui,
281     jit_code_putargr_l,         jit_code_putargi_l,
282 #if __WORDSIZE == 32
283 #  define jit_code_putargr      jit_code_putargr_i
284 #  define jit_code_putargi      jit_code_putargi_i
285 #else
286 #  define jit_code_putargr      jit_code_putargr_l
287 #  define jit_code_putargi      jit_code_putargi_l
288 #endif
289
290 #define jit_va_start(u)         jit_new_node_w(jit_code_va_start, u)
291     jit_code_va_start,
292 #define jit_va_arg(u, v)        jit_new_node_ww(jit_code_va_arg, u, v)
293 #define jit_va_arg_d(u, v)      jit_new_node_ww(jit_code_va_arg_d, u, v)
294     jit_code_va_arg,            jit_code_va_arg_d,
295 #define jit_va_end(u)           jit_new_node_w(jit_code_va_end, u)
296     jit_code_va_end,
297
298 #define jit_addr(u,v,w)         jit_new_node_www(jit_code_addr,u,v,w)
299 #define jit_addi(u,v,w)         jit_new_node_www(jit_code_addi,u,v,w)
300     jit_code_addr,              jit_code_addi,
301 #define jit_addcr(u,v,w)        jit_new_node_www(jit_code_addcr,u,v,w)
302 #define jit_addci(u,v,w)        jit_new_node_www(jit_code_addci,u,v,w)
303     jit_code_addcr,             jit_code_addci,
304 #define jit_addxr(u,v,w)        jit_new_node_www(jit_code_addxr,u,v,w)
305 #define jit_addxi(u,v,w)        jit_new_node_www(jit_code_addxi,u,v,w)
306     jit_code_addxr,             jit_code_addxi,
307 #define jit_subr(u,v,w)         jit_new_node_www(jit_code_subr,u,v,w)
308 #define jit_subi(u,v,w)         jit_new_node_www(jit_code_subi,u,v,w)
309     jit_code_subr,              jit_code_subi,
310 #define jit_subcr(u,v,w)        jit_new_node_www(jit_code_subcr,u,v,w)
311 #define jit_subci(u,v,w)        jit_new_node_www(jit_code_subci,u,v,w)
312     jit_code_subcr,             jit_code_subci,
313 #define jit_subxr(u,v,w)        jit_new_node_www(jit_code_subxr,u,v,w)
314 #define jit_subxi(u,v,w)        jit_new_node_www(jit_code_subxi,u,v,w)
315     jit_code_subxr,             jit_code_subxi,
316 #define jit_rsbr(u,v,w)         jit_subr(u,w,v)
317 #define jit_rsbi(u,v,w)         jit_new_node_www(jit_code_rsbi,u,v,w)
318     jit_code_rsbi,
319 #define jit_mulr(u,v,w)         jit_new_node_www(jit_code_mulr,u,v,w)
320 #define jit_muli(u,v,w)         jit_new_node_www(jit_code_muli,u,v,w)
321     jit_code_mulr,              jit_code_muli,
322 #define jit_qmulr(l,h,v,w)      jit_new_node_qww(jit_code_qmulr,l,h,v,w)
323 #define jit_qmuli(l,h,v,w)      jit_new_node_qww(jit_code_qmuli,l,h,v,w)
324     jit_code_qmulr,             jit_code_qmuli,
325 #define jit_qmulr_u(l,h,v,w)    jit_new_node_qww(jit_code_qmulr_u,l,h,v,w)
326 #define jit_qmuli_u(l,h,v,w)    jit_new_node_qww(jit_code_qmuli_u,l,h,v,w)
327     jit_code_qmulr_u,           jit_code_qmuli_u,
328 #define jit_divr(u,v,w)         jit_new_node_www(jit_code_divr,u,v,w)
329 #define jit_divi(u,v,w)         jit_new_node_www(jit_code_divi,u,v,w)
330     jit_code_divr,              jit_code_divi,
331 #define jit_divr_u(u,v,w)       jit_new_node_www(jit_code_divr_u,u,v,w)
332 #define jit_divi_u(u,v,w)       jit_new_node_www(jit_code_divi_u,u,v,w)
333     jit_code_divr_u,            jit_code_divi_u,
334 #define jit_qdivr(l,h,v,w)      jit_new_node_qww(jit_code_qdivr,l,h,v,w)
335 #define jit_qdivi(l,h,v,w)      jit_new_node_qww(jit_code_qdivi,l,h,v,w)
336     jit_code_qdivr,             jit_code_qdivi,
337 #define jit_qdivr_u(l,h,v,w)    jit_new_node_qww(jit_code_qdivr_u,l,h,v,w)
338 #define jit_qdivi_u(l,h,v,w)    jit_new_node_qww(jit_code_qdivi_u,l,h,v,w)
339     jit_code_qdivr_u,           jit_code_qdivi_u,
340 #define jit_remr(u,v,w)         jit_new_node_www(jit_code_remr,u,v,w)
341 #define jit_remi(u,v,w)         jit_new_node_www(jit_code_remi,u,v,w)
342     jit_code_remr,              jit_code_remi,
343 #define jit_remr_u(u,v,w)       jit_new_node_www(jit_code_remr_u,u,v,w)
344 #define jit_remi_u(u,v,w)       jit_new_node_www(jit_code_remi_u,u,v,w)
345     jit_code_remr_u,            jit_code_remi_u,
346
347 #define jit_andr(u,v,w)         jit_new_node_www(jit_code_andr,u,v,w)
348 #define jit_andi(u,v,w)         jit_new_node_www(jit_code_andi,u,v,w)
349     jit_code_andr,              jit_code_andi,
350 #define jit_orr(u,v,w)          jit_new_node_www(jit_code_orr,u,v,w)
351 #define jit_ori(u,v,w)          jit_new_node_www(jit_code_ori,u,v,w)
352     jit_code_orr,               jit_code_ori,
353 #define jit_xorr(u,v,w)         jit_new_node_www(jit_code_xorr,u,v,w)
354 #define jit_xori(u,v,w)         jit_new_node_www(jit_code_xori,u,v,w)
355     jit_code_xorr,              jit_code_xori,
356
357 #define jit_lshr(u,v,w)         jit_new_node_www(jit_code_lshr,u,v,w)
358 #define jit_lshi(u,v,w)         jit_new_node_www(jit_code_lshi,u,v,w)
359     jit_code_lshr,              jit_code_lshi,
360 #define jit_rshr(u,v,w)         jit_new_node_www(jit_code_rshr,u,v,w)
361 #define jit_rshi(u,v,w)         jit_new_node_www(jit_code_rshi,u,v,w)
362     jit_code_rshr,              jit_code_rshi,
363 #define jit_rshr_u(u,v,w)       jit_new_node_www(jit_code_rshr_u,u,v,w)
364 #define jit_rshi_u(u,v,w)       jit_new_node_www(jit_code_rshi_u,u,v,w)
365     jit_code_rshr_u,            jit_code_rshi_u,
366
367 #define jit_negr(u,v)           jit_new_node_ww(jit_code_negr,u,v)
368 #define jit_comr(u,v)           jit_new_node_ww(jit_code_comr,u,v)
369     jit_code_negr,              jit_code_comr,
370
371 #define jit_ltr(u,v,w)          jit_new_node_www(jit_code_ltr,u,v,w)
372 #define jit_lti(u,v,w)          jit_new_node_www(jit_code_lti,u,v,w)
373     jit_code_ltr,               jit_code_lti,
374 #define jit_ltr_u(u,v,w)        jit_new_node_www(jit_code_ltr_u,u,v,w)
375 #define jit_lti_u(u,v,w)        jit_new_node_www(jit_code_lti_u,u,v,w)
376     jit_code_ltr_u,             jit_code_lti_u,
377 #define jit_ler(u,v,w)          jit_new_node_www(jit_code_ler,u,v,w)
378 #define jit_lei(u,v,w)          jit_new_node_www(jit_code_lei,u,v,w)
379     jit_code_ler,               jit_code_lei,
380 #define jit_ler_u(u,v,w)        jit_new_node_www(jit_code_ler_u,u,v,w)
381 #define jit_lei_u(u,v,w)        jit_new_node_www(jit_code_lei_u,u,v,w)
382     jit_code_ler_u,             jit_code_lei_u,
383 #define jit_eqr(u,v,w)          jit_new_node_www(jit_code_eqr,u,v,w)
384 #define jit_eqi(u,v,w)          jit_new_node_www(jit_code_eqi,u,v,w)
385     jit_code_eqr,               jit_code_eqi,
386 #define jit_ger(u,v,w)          jit_new_node_www(jit_code_ger,u,v,w)
387 #define jit_gei(u,v,w)          jit_new_node_www(jit_code_gei,u,v,w)
388     jit_code_ger,               jit_code_gei,
389 #define jit_ger_u(u,v,w)        jit_new_node_www(jit_code_ger_u,u,v,w)
390 #define jit_gei_u(u,v,w)        jit_new_node_www(jit_code_gei_u,u,v,w)
391     jit_code_ger_u,             jit_code_gei_u,
392 #define jit_gtr(u,v,w)          jit_new_node_www(jit_code_gtr,u,v,w)
393 #define jit_gti(u,v,w)          jit_new_node_www(jit_code_gti,u,v,w)
394     jit_code_gtr,               jit_code_gti,
395 #define jit_gtr_u(u,v,w)        jit_new_node_www(jit_code_gtr_u,u,v,w)
396 #define jit_gti_u(u,v,w)        jit_new_node_www(jit_code_gti_u,u,v,w)
397     jit_code_gtr_u,             jit_code_gti_u,
398 #define jit_ner(u,v,w)          jit_new_node_www(jit_code_ner,u,v,w)
399 #define jit_nei(u,v,w)          jit_new_node_www(jit_code_nei,u,v,w)
400     jit_code_ner,               jit_code_nei,
401
402 #define jit_movr(u,v)           jit_new_node_ww(jit_code_movr,u,v)
403 #define jit_movi(u,v)           jit_new_node_ww(jit_code_movi,u,v)
404     jit_code_movr,              jit_code_movi,
405
406 #define jit_movnr(u,v,w)        jit_new_node_www(jit_code_movnr,u,v,w)
407 #define jit_movzr(u,v,w)        jit_new_node_www(jit_code_movzr,u,v,w)
408     jit_code_movnr,             jit_code_movzr,
409
410     jit_code_casr,              jit_code_casi,
411 #define jit_casr(u, v, w, x)    jit_new_node_wwq(jit_code_casr, u, v, w, x)
412 #define jit_casi(u, v, w, x)    jit_new_node_wwq(jit_code_casi, u, v, w, x)
413
414 #define jit_extr_c(u,v)         jit_new_node_ww(jit_code_extr_c,u,v)
415 #define jit_extr_uc(u,v)        jit_new_node_ww(jit_code_extr_uc,u,v)
416     jit_code_extr_c,            jit_code_extr_uc,
417 #define jit_extr_s(u,v)         jit_new_node_ww(jit_code_extr_s,u,v)
418 #define jit_extr_us(u,v)        jit_new_node_ww(jit_code_extr_us,u,v)
419     jit_code_extr_s,            jit_code_extr_us,
420 #if __WORDSIZE == 64
421 #  define jit_extr_i(u,v)       jit_new_node_ww(jit_code_extr_i,u,v)
422 #  define jit_extr_ui(u,v)      jit_new_node_ww(jit_code_extr_ui,u,v)
423 #endif
424     jit_code_extr_i,            jit_code_extr_ui,
425
426 #define jit_bswapr_us(u,v)      jit_new_node_ww(jit_code_bswapr_us,u,v)
427     jit_code_bswapr_us,
428 #define jit_bswapr_ui(u,v)      jit_new_node_ww(jit_code_bswapr_ui,u,v)
429     jit_code_bswapr_ui,
430 #define jit_bswapr_ul(u,v)      jit_new_node_ww(jit_code_bswapr_ul,u,v)
431     jit_code_bswapr_ul,
432 #if __WORDSIZE == 32
433 #define jit_bswapr(u,v)         jit_new_node_ww(jit_code_bswapr_ui,u,v)
434 #else
435 #define jit_bswapr(u,v)         jit_new_node_ww(jit_code_bswapr_ul,u,v)
436 #endif
437
438 #define jit_htonr_us(u,v)       jit_new_node_ww(jit_code_htonr_us,u,v)
439 #define jit_ntohr_us(u,v)       jit_new_node_ww(jit_code_htonr_us,u,v)
440     jit_code_htonr_us,
441 #define jit_htonr_ui(u,v)       jit_new_node_ww(jit_code_htonr_ui,u,v)
442 #define jit_ntohr_ui(u,v)       jit_new_node_ww(jit_code_htonr_ui,u,v)
443 #if __WORDSIZE == 32
444 #  define jit_htonr(u,v)        jit_new_node_ww(jit_code_htonr_ui,u,v)
445 #  define jit_ntohr(u,v)        jit_new_node_ww(jit_code_htonr_ui,u,v)
446 #else
447 #define jit_htonr_ul(u,v)       jit_new_node_ww(jit_code_htonr_ul,u,v)
448 #define jit_ntohr_ul(u,v)       jit_new_node_ww(jit_code_htonr_ul,u,v)
449 #  define jit_htonr(u,v)        jit_new_node_ww(jit_code_htonr_ul,u,v)
450 #  define jit_ntohr(u,v)        jit_new_node_ww(jit_code_htonr_ul,u,v)
451 #endif
452     jit_code_htonr_ui,          jit_code_htonr_ul,
453
454 #define jit_ldr_c(u,v)          jit_new_node_ww(jit_code_ldr_c,u,v)
455 #define jit_ldi_c(u,v)          jit_new_node_wp(jit_code_ldi_c,u,v)
456     jit_code_ldr_c,             jit_code_ldi_c,
457 #define jit_ldr_uc(u,v)         jit_new_node_ww(jit_code_ldr_uc,u,v)
458 #define jit_ldi_uc(u,v)         jit_new_node_wp(jit_code_ldi_uc,u,v)
459     jit_code_ldr_uc,            jit_code_ldi_uc,
460 #define jit_ldr_s(u,v)          jit_new_node_ww(jit_code_ldr_s,u,v)
461 #define jit_ldi_s(u,v)          jit_new_node_wp(jit_code_ldi_s,u,v)
462     jit_code_ldr_s,             jit_code_ldi_s,
463 #define jit_ldr_us(u,v)         jit_new_node_ww(jit_code_ldr_us,u,v)
464 #define jit_ldi_us(u,v)         jit_new_node_wp(jit_code_ldi_us,u,v)
465     jit_code_ldr_us,            jit_code_ldi_us,
466 #define jit_ldr_i(u,v)          jit_new_node_ww(jit_code_ldr_i,u,v)
467 #define jit_ldi_i(u,v)          jit_new_node_wp(jit_code_ldi_i,u,v)
468     jit_code_ldr_i,             jit_code_ldi_i,
469 #if __WORDSIZE == 32
470 #  define jit_ldr(u,v)          jit_ldr_i(u,v)
471 #  define jit_ldi(u,v)          jit_ldi_i(u,v)
472 #else
473 #  define jit_ldr(u,v)          jit_ldr_l(u,v)
474 #  define jit_ldi(u,v)          jit_ldi_l(u,v)
475 #  define jit_ldr_ui(u,v)       jit_new_node_ww(jit_code_ldr_ui,u,v)
476 #  define jit_ldi_ui(u,v)       jit_new_node_wp(jit_code_ldi_ui,u,v)
477 #define jit_ldr_l(u,v)          jit_new_node_ww(jit_code_ldr_l,u,v)
478 #define jit_ldi_l(u,v)          jit_new_node_wp(jit_code_ldi_l,u,v)
479 #endif
480     jit_code_ldr_ui,            jit_code_ldi_ui,
481     jit_code_ldr_l,             jit_code_ldi_l,
482
483 #define jit_ldxr_c(u,v,w)       jit_new_node_www(jit_code_ldxr_c,u,v,w)
484 #define jit_ldxi_c(u,v,w)       jit_new_node_www(jit_code_ldxi_c,u,v,w)
485     jit_code_ldxr_c,            jit_code_ldxi_c,
486 #define jit_ldxr_uc(u,v,w)      jit_new_node_www(jit_code_ldxr_uc,u,v,w)
487 #define jit_ldxi_uc(u,v,w)      jit_new_node_www(jit_code_ldxi_uc,u,v,w)
488     jit_code_ldxr_uc,           jit_code_ldxi_uc,
489 #define jit_ldxr_s(u,v,w)       jit_new_node_www(jit_code_ldxr_s,u,v,w)
490 #define jit_ldxi_s(u,v,w)       jit_new_node_www(jit_code_ldxi_s,u,v,w)
491     jit_code_ldxr_s,            jit_code_ldxi_s,
492 #define jit_ldxr_us(u,v,w)      jit_new_node_www(jit_code_ldxr_us,u,v,w)
493 #define jit_ldxi_us(u,v,w)      jit_new_node_www(jit_code_ldxi_us,u,v,w)
494     jit_code_ldxr_us,           jit_code_ldxi_us,
495 #define jit_ldxr_i(u,v,w)       jit_new_node_www(jit_code_ldxr_i,u,v,w)
496 #define jit_ldxi_i(u,v,w)       jit_new_node_www(jit_code_ldxi_i,u,v,w)
497     jit_code_ldxr_i,            jit_code_ldxi_i,
498 #if __WORDSIZE == 32
499 #  define jit_ldxr(u,v,w)       jit_ldxr_i(u,v,w)
500 #  define jit_ldxi(u,v,w)       jit_ldxi_i(u,v,w)
501 #else
502 #  define jit_ldxr_ui(u,v,w)    jit_new_node_www(jit_code_ldxr_ui,u,v,w)
503 #  define jit_ldxi_ui(u,v,w)    jit_new_node_www(jit_code_ldxi_ui,u,v,w)
504 #  define jit_ldxr_l(u,v,w)     jit_new_node_www(jit_code_ldxr_l,u,v,w)
505 #  define jit_ldxi_l(u,v,w)     jit_new_node_www(jit_code_ldxi_l,u,v,w)
506 #  define jit_ldxr(u,v,w)       jit_ldxr_l(u,v,w)
507 #  define jit_ldxi(u,v,w)       jit_ldxi_l(u,v,w)
508 #endif
509     jit_code_ldxr_ui,           jit_code_ldxi_ui,
510     jit_code_ldxr_l,            jit_code_ldxi_l,
511
512 #define jit_str_c(u,v)          jit_new_node_ww(jit_code_str_c,u,v)
513 #define jit_sti_c(u,v)          jit_new_node_pw(jit_code_sti_c,u,v)
514     jit_code_str_c,             jit_code_sti_c,
515 #define jit_str_s(u,v)          jit_new_node_ww(jit_code_str_s,u,v)
516 #define jit_sti_s(u,v)          jit_new_node_pw(jit_code_sti_s,u,v)
517     jit_code_str_s,             jit_code_sti_s,
518 #define jit_str_i(u,v)          jit_new_node_ww(jit_code_str_i,u,v)
519 #define jit_sti_i(u,v)          jit_new_node_pw(jit_code_sti_i,u,v)
520     jit_code_str_i,             jit_code_sti_i,
521 #if __WORDSIZE == 32
522 #  define jit_str(u,v)          jit_str_i(u,v)
523 #  define jit_sti(u,v)          jit_sti_i(u,v)
524 #else
525 #  define jit_str(u,v)          jit_str_l(u,v)
526 #  define jit_sti(u,v)          jit_sti_l(u,v)
527 #  define jit_str_l(u,v)        jit_new_node_ww(jit_code_str_l,u,v)
528 #  define jit_sti_l(u,v)        jit_new_node_pw(jit_code_sti_l,u,v)
529 #endif
530     jit_code_str_l,             jit_code_sti_l,
531
532 #define jit_stxr_c(u,v,w)       jit_new_node_www(jit_code_stxr_c,u,v,w)
533 #define jit_stxi_c(u,v,w)       jit_new_node_www(jit_code_stxi_c,u,v,w)
534     jit_code_stxr_c,            jit_code_stxi_c,
535 #define jit_stxr_s(u,v,w)       jit_new_node_www(jit_code_stxr_s,u,v,w)
536 #define jit_stxi_s(u,v,w)       jit_new_node_www(jit_code_stxi_s,u,v,w)
537     jit_code_stxr_s,            jit_code_stxi_s,
538 #define jit_stxr_i(u,v,w)       jit_new_node_www(jit_code_stxr_i,u,v,w)
539 #define jit_stxi_i(u,v,w)       jit_new_node_www(jit_code_stxi_i,u,v,w)
540     jit_code_stxr_i,            jit_code_stxi_i,
541 #if __WORDSIZE == 32
542 #  define jit_stxr(u,v,w)       jit_stxr_i(u,v,w)
543 #  define jit_stxi(u,v,w)       jit_stxi_i(u,v,w)
544 #else
545 #  define jit_stxr(u,v,w)       jit_stxr_l(u,v,w)
546 #  define jit_stxi(u,v,w)       jit_stxi_l(u,v,w)
547 #  define jit_stxr_l(u,v,w)     jit_new_node_www(jit_code_stxr_l,u,v,w)
548 #  define jit_stxi_l(u,v,w)     jit_new_node_www(jit_code_stxi_l,u,v,w)
549 #endif
550     jit_code_stxr_l,            jit_code_stxi_l,
551
552 #define jit_bltr(v,w)           jit_new_node_pww(jit_code_bltr,NULL,v,w)
553 #define jit_blti(v,w)           jit_new_node_pww(jit_code_blti,NULL,v,w)
554     jit_code_bltr,              jit_code_blti,
555 #define jit_bltr_u(v,w)         jit_new_node_pww(jit_code_bltr_u,NULL,v,w)
556 #define jit_blti_u(v,w)         jit_new_node_pww(jit_code_blti_u,NULL,v,w)
557     jit_code_bltr_u,            jit_code_blti_u,
558 #define jit_bler(v,w)           jit_new_node_pww(jit_code_bler,NULL,v,w)
559 #define jit_blei(v,w)           jit_new_node_pww(jit_code_blei,NULL,v,w)
560     jit_code_bler,              jit_code_blei,
561 #define jit_bler_u(v,w)         jit_new_node_pww(jit_code_bler_u,NULL,v,w)
562 #define jit_blei_u(v,w)         jit_new_node_pww(jit_code_blei_u,NULL,v,w)
563     jit_code_bler_u,            jit_code_blei_u,
564 #define jit_beqr(v,w)           jit_new_node_pww(jit_code_beqr,NULL,v,w)
565 #define jit_beqi(v,w)           jit_new_node_pww(jit_code_beqi,NULL,v,w)
566     jit_code_beqr,              jit_code_beqi,
567 #define jit_bger(v,w)           jit_new_node_pww(jit_code_bger,NULL,v,w)
568 #define jit_bgei(v,w)           jit_new_node_pww(jit_code_bgei,NULL,v,w)
569     jit_code_bger,              jit_code_bgei,
570 #define jit_bger_u(v,w)         jit_new_node_pww(jit_code_bger_u,NULL,v,w)
571 #define jit_bgei_u(v,w)         jit_new_node_pww(jit_code_bgei_u,NULL,v,w)
572     jit_code_bger_u,            jit_code_bgei_u,
573 #define jit_bgtr(v,w)           jit_new_node_pww(jit_code_bgtr,NULL,v,w)
574 #define jit_bgti(v,w)           jit_new_node_pww(jit_code_bgti,NULL,v,w)
575     jit_code_bgtr,              jit_code_bgti,
576 #define jit_bgtr_u(v,w)         jit_new_node_pww(jit_code_bgtr_u,NULL,v,w)
577 #define jit_bgti_u(v,w)         jit_new_node_pww(jit_code_bgti_u,NULL,v,w)
578     jit_code_bgtr_u,            jit_code_bgti_u,
579 #define jit_bner(v,w)           jit_new_node_pww(jit_code_bner,NULL,v,w)
580 #define jit_bnei(v,w)           jit_new_node_pww(jit_code_bnei,NULL,v,w)
581     jit_code_bner,              jit_code_bnei,
582
583 #define jit_bmsr(v,w)           jit_new_node_pww(jit_code_bmsr,NULL,v,w)
584 #define jit_bmsi(v,w)           jit_new_node_pww(jit_code_bmsi,NULL,v,w)
585     jit_code_bmsr,              jit_code_bmsi,
586 #define jit_bmcr(v,w)           jit_new_node_pww(jit_code_bmcr,NULL,v,w)
587 #define jit_bmci(v,w)           jit_new_node_pww(jit_code_bmci,NULL,v,w)
588     jit_code_bmcr,              jit_code_bmci,
589
590 #define jit_boaddr(v,w)         jit_new_node_pww(jit_code_boaddr,NULL,v,w)
591 #define jit_boaddi(v,w)         jit_new_node_pww(jit_code_boaddi,NULL,v,w)
592     jit_code_boaddr,            jit_code_boaddi,
593 #define jit_boaddr_u(v,w)       jit_new_node_pww(jit_code_boaddr_u,NULL,v,w)
594 #define jit_boaddi_u(v,w)       jit_new_node_pww(jit_code_boaddi_u,NULL,v,w)
595     jit_code_boaddr_u,          jit_code_boaddi_u,
596 #define jit_bxaddr(v,w)         jit_new_node_pww(jit_code_bxaddr,NULL,v,w)
597 #define jit_bxaddi(v,w)         jit_new_node_pww(jit_code_bxaddi,NULL,v,w)
598     jit_code_bxaddr,            jit_code_bxaddi,
599 #define jit_bxaddr_u(v,w)       jit_new_node_pww(jit_code_bxaddr_u,NULL,v,w)
600 #define jit_bxaddi_u(v,w)       jit_new_node_pww(jit_code_bxaddi_u,NULL,v,w)
601     jit_code_bxaddr_u,          jit_code_bxaddi_u,
602 #define jit_bosubr(v,w)         jit_new_node_pww(jit_code_bosubr,NULL,v,w)
603 #define jit_bosubi(v,w)         jit_new_node_pww(jit_code_bosubi,NULL,v,w)
604     jit_code_bosubr,            jit_code_bosubi,
605 #define jit_bosubr_u(v,w)       jit_new_node_pww(jit_code_bosubr_u,NULL,v,w)
606 #define jit_bosubi_u(v,w)       jit_new_node_pww(jit_code_bosubi_u,NULL,v,w)
607     jit_code_bosubr_u,          jit_code_bosubi_u,
608 #define jit_bxsubr(v,w)         jit_new_node_pww(jit_code_bxsubr,NULL,v,w)
609 #define jit_bxsubi(v,w)         jit_new_node_pww(jit_code_bxsubi,NULL,v,w)
610     jit_code_bxsubr,            jit_code_bxsubi,
611 #define jit_bxsubr_u(v,w)       jit_new_node_pww(jit_code_bxsubr_u,NULL,v,w)
612 #define jit_bxsubi_u(v,w)       jit_new_node_pww(jit_code_bxsubi_u,NULL,v,w)
613     jit_code_bxsubr_u,          jit_code_bxsubi_u,
614
615 #define jit_jmpr(u)             jit_new_node_w(jit_code_jmpr,u)
616 #define jit_jmpi()              jit_new_node_p(jit_code_jmpi,NULL)
617     jit_code_jmpr,              jit_code_jmpi,
618 #define jit_callr(u)            jit_new_node_w(jit_code_callr,u)
619 #define jit_calli(u)            jit_new_node_p(jit_code_calli,u)
620     jit_code_callr,             jit_code_calli,
621
622 #define jit_prepare()           _jit_prepare(_jit)
623     jit_code_prepare,
624
625 #define jit_pushargr_c(u)       _jit_pushargr(_jit,u,jit_code_pushargr_c)
626 #define jit_pushargi_c(u)       _jit_pushargi(_jit,u,jit_code_pushargi_c)
627 #define jit_pushargr_uc(u)      _jit_pushargr(_jit,u,jit_code_pushargr_uc)
628 #define jit_pushargi_uc(u)      _jit_pushargi(_jit,u,jit_code_pushargi_uc)
629 #define jit_pushargr_s(u)       _jit_pushargr(_jit,u,jit_code_pushargr_s)
630 #define jit_pushargi_s(u)       _jit_pushargi(_jit,u,jit_code_pushargi_s)
631 #define jit_pushargr_us(u)      _jit_pushargr(_jit,u,jit_code_pushargr_us)
632 #define jit_pushargi_us(u)      _jit_pushargi(_jit,u,jit_code_pushargi_us)
633 #define jit_pushargr_i(u)       _jit_pushargr(_jit,u,jit_code_pushargr_i)
634 #define jit_pushargi_i(u)       _jit_pushargi(_jit,u,jit_code_pushargi_i)
635 #if __WORDSIZE == 32
636 #  define jit_pushargr(u)       jit_pushargr_i(u)
637 #  define jit_pushargi(u)       jit_pushargi_i(u)
638 #else
639 #  define jit_pushargr_ui(u)    _jit_pushargr(_jit,u,jit_code_pushargr_ui)
640 #  define jit_pushargi_ui(u)    _jit_pushargi(_jit,u,jit_code_pushargi_ui)
641 #  define jit_pushargr_l(u)     _jit_pushargr(_jit,u,jit_code_pushargr_l)
642 #  define jit_pushargi_l(u)     _jit_pushargi(_jit,u,jit_code_pushargi_l)
643 #  define jit_pushargr(u)       jit_pushargr_l(u)
644 #  define jit_pushargi(u)       jit_pushargi_l(u)
645 #endif
646     jit_code_pushargr_c,        jit_code_pushargi_c,
647     jit_code_pushargr_uc,       jit_code_pushargi_uc,
648     jit_code_pushargr_s,        jit_code_pushargi_s,
649     jit_code_pushargr_us,       jit_code_pushargi_us,
650     jit_code_pushargr_i,        jit_code_pushargi_i,
651     jit_code_pushargr_ui,       jit_code_pushargi_ui,
652     jit_code_pushargr_l,        jit_code_pushargi_l,
653 #if __WORDSIZE == 32
654 #  define jit_code_pushargr     jit_code_pushargr_i
655 #  define jit_code_pushargi     jit_code_pushargi_i
656 #else
657 #  define jit_code_pushargr     jit_code_pushargr_l
658 #  define jit_code_pushargi     jit_code_pushargi_l
659 #endif
660
661 #define jit_finishr(u)          _jit_finishr(_jit,u)
662 #define jit_finishi(u)          _jit_finishi(_jit,u)
663     jit_code_finishr,           jit_code_finishi,
664 #define jit_ret()               _jit_ret(_jit)
665     jit_code_ret,
666
667 #define jit_retr_c(u)           _jit_retr(_jit,u,jit_code_retr_c)
668 #define jit_reti_c(u)           _jit_reti(_jit,u,jit_code_reti_c)
669 #define jit_retr_uc(u)          _jit_retr(_jit,u,jit_code_retr_uc)
670 #define jit_reti_uc(u)          _jit_reti(_jit,u,jit_code_reti_uc)
671 #define jit_retr_s(u)           _jit_retr(_jit,u,jit_code_retr_s)
672 #define jit_reti_s(u)           _jit_reti(_jit,u,jit_code_reti_s)
673 #define jit_retr_us(u)          _jit_retr(_jit,u,jit_code_retr_us)
674 #define jit_reti_us(u)          _jit_reti(_jit,u,jit_code_reti_us)
675 #define jit_retr_i(u)           _jit_retr(_jit,u,jit_code_retr_i)
676 #define jit_reti_i(u)           _jit_reti(_jit,u,jit_code_reti_i)
677 #if __WORDSIZE == 32
678 #  define jit_retr(u)           jit_retr_i(u)
679 #  define jit_reti(u)           jit_reti_i(u)
680 #else
681 #  define jit_retr_ui(u)        _jit_retr(_jit,u,jit_code_retr_ui)
682 #  define jit_reti_ui(u)        _jit_reti(_jit,u,jit_code_reti_ui)
683 #  define jit_retr_l(u)         _jit_retr(_jit,u,jit_code_retr_l)
684 #  define jit_reti_l(u)         _jit_reti(_jit,u,jit_code_reti_l)
685 #  define jit_retr(u)           jit_retr_l(u)
686 #  define jit_reti(u)           jit_reti_l(u)
687 #endif
688     jit_code_retr_c,            jit_code_reti_c,
689     jit_code_retr_uc,           jit_code_reti_uc,
690     jit_code_retr_s,            jit_code_reti_s,
691     jit_code_retr_us,           jit_code_reti_us,
692     jit_code_retr_i,            jit_code_reti_i,
693     jit_code_retr_ui,           jit_code_reti_ui,
694     jit_code_retr_l,            jit_code_reti_l,
695 #if __WORDSIZE == 32
696 #  define jit_code_retr         jit_code_retr_i
697 #  define jit_code_reti         jit_code_reti_i
698 #else
699 #  define jit_code_retr         jit_code_retr_l
700 #  define jit_code_reti         jit_code_reti_l
701 #endif
702
703 #define jit_retval_c(u)         _jit_retval_c(_jit,u)
704 #define jit_retval_uc(u)        _jit_retval_uc(_jit,u)
705 #define jit_retval_s(u)         _jit_retval_s(_jit,u)
706 #define jit_retval_us(u)        _jit_retval_us(_jit,u)
707 #define jit_retval_i(u)         _jit_retval_i(_jit,u)
708 #if __WORDSIZE == 32
709 #  define jit_retval(u)         jit_retval_i(u)
710 #else
711 #  define jit_retval_ui(u)      _jit_retval_ui(_jit,u)
712 #  define jit_retval_l(u)       _jit_retval_l(_jit,u)
713 #  define jit_retval(u)         jit_retval_l(u)
714 #endif
715     jit_code_retval_c,          jit_code_retval_uc,
716     jit_code_retval_s,          jit_code_retval_us,
717     jit_code_retval_i,          jit_code_retval_ui,
718     jit_code_retval_l,
719 #if __WORDSIZE == 32
720 #  define jit_code_retval       jit_code_retval_i
721 #else
722 #  define jit_code_retval       jit_code_retval_l
723 #endif
724
725 #define jit_epilog()            _jit_epilog(_jit)
726     jit_code_epilog,
727
728 #define jit_arg_f()             _jit_arg_f(_jit)
729     jit_code_arg_f,
730 #define jit_getarg_f(u,v)       _jit_getarg_f(_jit,u,v)
731     jit_code_getarg_f,
732 #define jit_putargr_f(u,v)      _jit_putargr_f(_jit,u,v)
733 #define jit_putargi_f(u,v)      _jit_putargi_f(_jit,u,v)
734     jit_code_putargr_f,         jit_code_putargi_f,
735
736 #define jit_addr_f(u,v,w)       jit_new_node_www(jit_code_addr_f,u,v,w)
737 #define jit_addi_f(u,v,w)       jit_new_node_wwf(jit_code_addi_f,u,v,w)
738     jit_code_addr_f,            jit_code_addi_f,
739 #define jit_subr_f(u,v,w)       jit_new_node_www(jit_code_subr_f,u,v,w)
740 #define jit_subi_f(u,v,w)       jit_new_node_wwf(jit_code_subi_f,u,v,w)
741     jit_code_subr_f,            jit_code_subi_f,
742 #define jit_rsbr_f(u,v,w)       jit_subr_f(u,w,v)
743 #define jit_rsbi_f(u,v,w)       jit_new_node_wwf(jit_code_rsbi_f,u,v,w)
744     jit_code_rsbi_f,
745 #define jit_mulr_f(u,v,w)       jit_new_node_www(jit_code_mulr_f,u,v,w)
746 #define jit_muli_f(u,v,w)       jit_new_node_wwf(jit_code_muli_f,u,v,w)
747     jit_code_mulr_f,            jit_code_muli_f,
748 #define jit_divr_f(u,v,w)       jit_new_node_www(jit_code_divr_f,u,v,w)
749 #define jit_divi_f(u,v,w)       jit_new_node_wwf(jit_code_divi_f,u,v,w)
750     jit_code_divr_f,            jit_code_divi_f,
751 #define jit_negr_f(u,v)         jit_new_node_ww(jit_code_negr_f,u,v)
752 #define jit_absr_f(u,v)         jit_new_node_ww(jit_code_absr_f,u,v)
753 #define jit_sqrtr_f(u,v)        jit_new_node_ww(jit_code_sqrtr_f,u,v)
754     jit_code_negr_f,            jit_code_absr_f,        jit_code_sqrtr_f,
755
756 #define jit_ltr_f(u,v,w)        jit_new_node_www(jit_code_ltr_f,u,v,w)
757 #define jit_lti_f(u,v,w)        jit_new_node_wwf(jit_code_lti_f,u,v,w)
758     jit_code_ltr_f,             jit_code_lti_f,
759 #define jit_ler_f(u,v,w)        jit_new_node_www(jit_code_ler_f,u,v,w)
760 #define jit_lei_f(u,v,w)        jit_new_node_wwf(jit_code_lei_f,u,v,w)
761     jit_code_ler_f,             jit_code_lei_f,
762 #define jit_eqr_f(u,v,w)        jit_new_node_www(jit_code_eqr_f,u,v,w)
763 #define jit_eqi_f(u,v,w)        jit_new_node_wwf(jit_code_eqi_f,u,v,w)
764     jit_code_eqr_f,             jit_code_eqi_f,
765 #define jit_ger_f(u,v,w)        jit_new_node_www(jit_code_ger_f,u,v,w)
766 #define jit_gei_f(u,v,w)        jit_new_node_wwf(jit_code_gei_f,u,v,w)
767     jit_code_ger_f,             jit_code_gei_f,
768 #define jit_gtr_f(u,v,w)        jit_new_node_www(jit_code_gtr_f,u,v,w)
769 #define jit_gti_f(u,v,w)        jit_new_node_wwf(jit_code_gti_f,u,v,w)
770     jit_code_gtr_f,             jit_code_gti_f,
771 #define jit_ner_f(u,v,w)        jit_new_node_www(jit_code_ner_f,u,v,w)
772 #define jit_nei_f(u,v,w)        jit_new_node_wwf(jit_code_nei_f,u,v,w)
773     jit_code_ner_f,             jit_code_nei_f,
774 #define jit_unltr_f(u,v,w)      jit_new_node_www(jit_code_unltr_f,u,v,w)
775 #define jit_unlti_f(u,v,w)      jit_new_node_wwf(jit_code_unlti_f,u,v,w)
776     jit_code_unltr_f,           jit_code_unlti_f,
777 #define jit_unler_f(u,v,w)      jit_new_node_www(jit_code_unler_f,u,v,w)
778 #define jit_unlei_f(u,v,w)      jit_new_node_wwf(jit_code_unlei_f,u,v,w)
779     jit_code_unler_f,           jit_code_unlei_f,
780 #define jit_uneqr_f(u,v,w)      jit_new_node_www(jit_code_uneqr_f,u,v,w)
781 #define jit_uneqi_f(u,v,w)      jit_new_node_wwf(jit_code_uneqi_f,u,v,w)
782     jit_code_uneqr_f,           jit_code_uneqi_f,
783 #define jit_unger_f(u,v,w)      jit_new_node_www(jit_code_unger_f,u,v,w)
784 #define jit_ungei_f(u,v,w)      jit_new_node_wwf(jit_code_ungei_f,u,v,w)
785     jit_code_unger_f,           jit_code_ungei_f,
786 #define jit_ungtr_f(u,v,w)      jit_new_node_www(jit_code_ungtr_f,u,v,w)
787 #define jit_ungti_f(u,v,w)      jit_new_node_wwf(jit_code_ungti_f,u,v,w)
788     jit_code_ungtr_f,           jit_code_ungti_f,
789 #define jit_ltgtr_f(u,v,w)      jit_new_node_www(jit_code_ltgtr_f,u,v,w)
790 #define jit_ltgti_f(u,v,w)      jit_new_node_wwf(jit_code_ltgti_f,u,v,w)
791     jit_code_ltgtr_f,           jit_code_ltgti_f,
792 #define jit_ordr_f(u,v,w)       jit_new_node_www(jit_code_ordr_f,u,v,w)
793 #define jit_ordi_f(u,v,w)       jit_new_node_wwf(jit_code_ordi_f,u,v,w)
794     jit_code_ordr_f,            jit_code_ordi_f,
795 #define jit_unordr_f(u,v,w)     jit_new_node_www(jit_code_unordr_f,u,v,w)
796 #define jit_unordi_f(u,v,w)     jit_new_node_wwf(jit_code_unordi_f,u,v,w)
797     jit_code_unordr_f,          jit_code_unordi_f,
798
799 #define jit_truncr_f_i(u,v)     jit_new_node_ww(jit_code_truncr_f_i,u,v)
800     jit_code_truncr_f_i,
801 #if __WORDSIZE == 32
802 #  define jit_truncr_f(u,v)     jit_truncr_f_i(u,v)
803 #else
804 #  define jit_truncr_f(u,v)     jit_truncr_f_l(u,v)
805 #  define jit_truncr_f_l(u,v)   jit_new_node_ww(jit_code_truncr_f_l,u,v)
806 #endif
807     jit_code_truncr_f_l,
808 #define jit_extr_f(u,v)         jit_new_node_ww(jit_code_extr_f,u,v)
809 #define jit_extr_d_f(u,v)       jit_new_node_ww(jit_code_extr_d_f,u,v)
810     jit_code_extr_f,            jit_code_extr_d_f,
811 #define jit_movr_f(u,v)         jit_new_node_ww(jit_code_movr_f,u,v)
812 #define jit_movi_f(u,v)         jit_new_node_wf(jit_code_movi_f,u,v)
813     jit_code_movr_f,            jit_code_movi_f,
814
815 #define jit_ldr_f(u,v)          jit_new_node_ww(jit_code_ldr_f,u,v)
816 #define jit_ldi_f(u,v)          jit_new_node_wp(jit_code_ldi_f,u,v)
817     jit_code_ldr_f,             jit_code_ldi_f,
818 #define jit_ldxr_f(u,v,w)       jit_new_node_www(jit_code_ldxr_f,u,v,w)
819 #define jit_ldxi_f(u,v,w)       jit_new_node_www(jit_code_ldxi_f,u,v,w)
820     jit_code_ldxr_f,            jit_code_ldxi_f,
821 #define jit_str_f(u,v)          jit_new_node_ww(jit_code_str_f,u,v)
822 #define jit_sti_f(u,v)          jit_new_node_pw(jit_code_sti_f,u,v)
823     jit_code_str_f,             jit_code_sti_f,
824 #define jit_stxr_f(u,v,w)       jit_new_node_www(jit_code_stxr_f,u,v,w)
825 #define jit_stxi_f(u,v,w)       jit_new_node_www(jit_code_stxi_f,u,v,w)
826     jit_code_stxr_f,            jit_code_stxi_f,
827
828 #define jit_bltr_f(v,w)         jit_new_node_pww(jit_code_bltr_f,NULL,v,w)
829 #define jit_blti_f(v,w)         jit_new_node_pwf(jit_code_blti_f,NULL,v,w)
830     jit_code_bltr_f,            jit_code_blti_f,
831 #define jit_bler_f(v,w)         jit_new_node_pww(jit_code_bler_f,NULL,v,w)
832 #define jit_blei_f(v,w)         jit_new_node_pwf(jit_code_blei_f,NULL,v,w)
833     jit_code_bler_f,            jit_code_blei_f,
834 #define jit_beqr_f(v,w)         jit_new_node_pww(jit_code_beqr_f,NULL,v,w)
835 #define jit_beqi_f(v,w)         jit_new_node_pwf(jit_code_beqi_f,NULL,v,w)
836     jit_code_beqr_f,            jit_code_beqi_f,
837 #define jit_bger_f(v,w)         jit_new_node_pww(jit_code_bger_f,NULL,v,w)
838 #define jit_bgei_f(v,w)         jit_new_node_pwf(jit_code_bgei_f,NULL,v,w)
839     jit_code_bger_f,            jit_code_bgei_f,
840 #define jit_bgtr_f(v,w)         jit_new_node_pww(jit_code_bgtr_f,NULL,v,w)
841 #define jit_bgti_f(v,w)         jit_new_node_pwf(jit_code_bgti_f,NULL,v,w)
842     jit_code_bgtr_f,            jit_code_bgti_f,
843 #define jit_bner_f(v,w)         jit_new_node_pww(jit_code_bner_f,NULL,v,w)
844 #define jit_bnei_f(v,w)         jit_new_node_pwf(jit_code_bnei_f,NULL,v,w)
845     jit_code_bner_f,            jit_code_bnei_f,
846 #define jit_bunltr_f(v,w)       jit_new_node_pww(jit_code_bunltr_f,NULL,v,w)
847 #define jit_bunlti_f(v,w)       jit_new_node_pwf(jit_code_bunlti_f,NULL,v,w)
848     jit_code_bunltr_f,          jit_code_bunlti_f,
849 #define jit_bunler_f(v,w)       jit_new_node_pww(jit_code_bunler_f,NULL,v,w)
850 #define jit_bunlei_f(v,w)       jit_new_node_pwf(jit_code_bunlei_f,NULL,v,w)
851     jit_code_bunler_f,          jit_code_bunlei_f,
852 #define jit_buneqr_f(v,w)       jit_new_node_pww(jit_code_buneqr_f,NULL,v,w)
853 #define jit_buneqi_f(v,w)       jit_new_node_pwf(jit_code_buneqi_f,NULL,v,w)
854     jit_code_buneqr_f,          jit_code_buneqi_f,
855 #define jit_bunger_f(v,w)       jit_new_node_pww(jit_code_bunger_f,NULL,v,w)
856 #define jit_bungei_f(v,w)       jit_new_node_pwf(jit_code_bungei_f,NULL,v,w)
857     jit_code_bunger_f,          jit_code_bungei_f,
858 #define jit_bungtr_f(v,w)       jit_new_node_pww(jit_code_bungtr_f,NULL,v,w)
859 #define jit_bungti_f(v,w)       jit_new_node_pwf(jit_code_bungti_f,NULL,v,w)
860     jit_code_bungtr_f,          jit_code_bungti_f,
861 #define jit_bltgtr_f(v,w)       jit_new_node_pww(jit_code_bltgtr_f,NULL,v,w)
862 #define jit_bltgti_f(v,w)       jit_new_node_pwf(jit_code_bltgti_f,NULL,v,w)
863     jit_code_bltgtr_f,          jit_code_bltgti_f,
864 #define jit_bordr_f(v,w)        jit_new_node_pww(jit_code_bordr_f,NULL,v,w)
865 #define jit_bordi_f(v,w)        jit_new_node_pwf(jit_code_bordi_f,NULL,v,w)
866     jit_code_bordr_f,           jit_code_bordi_f,
867 #define jit_bunordr_f(v,w)      jit_new_node_pww(jit_code_bunordr_f,NULL,v,w)
868 #define jit_bunordi_f(v,w)      jit_new_node_pwf(jit_code_bunordi_f,NULL,v,w)
869     jit_code_bunordr_f,         jit_code_bunordi_f,
870
871 #define jit_pushargr_f(u)       _jit_pushargr_f(_jit,u)
872 #define jit_pushargi_f(u)       _jit_pushargi_f(_jit,u)
873     jit_code_pushargr_f,        jit_code_pushargi_f,
874 #define jit_retr_f(u)           _jit_retr_f(_jit,u)
875 #define jit_reti_f(u)           _jit_reti_f(_jit,u)
876     jit_code_retr_f,            jit_code_reti_f,
877 #define jit_retval_f(u)         _jit_retval_f(_jit,u)
878     jit_code_retval_f,
879
880 #define jit_arg_d()             _jit_arg_d(_jit)
881     jit_code_arg_d,
882 #define jit_getarg_d(u,v)       _jit_getarg_d(_jit,u,v)
883     jit_code_getarg_d,
884 #define jit_putargr_d(u,v)      _jit_putargr_d(_jit,u,v)
885 #define jit_putargi_d(u,v)      _jit_putargi_d(_jit,u,v)
886     jit_code_putargr_d,         jit_code_putargi_d,
887
888 #define jit_addr_d(u,v,w)       jit_new_node_www(jit_code_addr_d,u,v,w)
889 #define jit_addi_d(u,v,w)       jit_new_node_wwd(jit_code_addi_d,u,v,w)
890     jit_code_addr_d,            jit_code_addi_d,
891 #define jit_subr_d(u,v,w)       jit_new_node_www(jit_code_subr_d,u,v,w)
892 #define jit_subi_d(u,v,w)       jit_new_node_wwd(jit_code_subi_d,u,v,w)
893     jit_code_subr_d,            jit_code_subi_d,
894 #define jit_rsbr_d(u,v,w)       jit_subr_d(u,w,v)
895 #define jit_rsbi_d(u,v,w)       jit_new_node_wwd(jit_code_rsbi_d,u,v,w)
896     jit_code_rsbi_d,
897 #define jit_mulr_d(u,v,w)       jit_new_node_www(jit_code_mulr_d,u,v,w)
898 #define jit_muli_d(u,v,w)       jit_new_node_wwd(jit_code_muli_d,u,v,w)
899     jit_code_mulr_d,            jit_code_muli_d,
900 #define jit_divr_d(u,v,w)       jit_new_node_www(jit_code_divr_d,u,v,w)
901 #define jit_divi_d(u,v,w)       jit_new_node_wwd(jit_code_divi_d,u,v,w)
902     jit_code_divr_d,            jit_code_divi_d,
903
904 #define jit_negr_d(u,v)         jit_new_node_ww(jit_code_negr_d,u,v)
905 #define jit_absr_d(u,v)         jit_new_node_ww(jit_code_absr_d,u,v)
906 #define jit_sqrtr_d(u,v)        jit_new_node_ww(jit_code_sqrtr_d,u,v)
907     jit_code_negr_d,            jit_code_absr_d,        jit_code_sqrtr_d,
908
909 #define jit_ltr_d(u,v,w)        jit_new_node_www(jit_code_ltr_d,u,v,w)
910 #define jit_lti_d(u,v,w)        jit_new_node_wwd(jit_code_lti_d,u,v,w)
911     jit_code_ltr_d,             jit_code_lti_d,
912 #define jit_ler_d(u,v,w)        jit_new_node_www(jit_code_ler_d,u,v,w)
913 #define jit_lei_d(u,v,w)        jit_new_node_wwd(jit_code_lei_d,u,v,w)
914     jit_code_ler_d,             jit_code_lei_d,
915 #define jit_eqr_d(u,v,w)        jit_new_node_www(jit_code_eqr_d,u,v,w)
916 #define jit_eqi_d(u,v,w)        jit_new_node_wwd(jit_code_eqi_d,u,v,w)
917     jit_code_eqr_d,             jit_code_eqi_d,
918 #define jit_ger_d(u,v,w)        jit_new_node_www(jit_code_ger_d,u,v,w)
919 #define jit_gei_d(u,v,w)        jit_new_node_wwd(jit_code_gei_d,u,v,w)
920     jit_code_ger_d,             jit_code_gei_d,
921 #define jit_gtr_d(u,v,w)        jit_new_node_www(jit_code_gtr_d,u,v,w)
922 #define jit_gti_d(u,v,w)        jit_new_node_wwd(jit_code_gti_d,u,v,w)
923     jit_code_gtr_d,             jit_code_gti_d,
924 #define jit_ner_d(u,v,w)        jit_new_node_www(jit_code_ner_d,u,v,w)
925 #define jit_nei_d(u,v,w)        jit_new_node_wwd(jit_code_nei_d,u,v,w)
926     jit_code_ner_d,             jit_code_nei_d,
927 #define jit_unltr_d(u,v,w)      jit_new_node_www(jit_code_unltr_d,u,v,w)
928 #define jit_unlti_d(u,v,w)      jit_new_node_wwd(jit_code_unlti_d,u,v,w)
929     jit_code_unltr_d,           jit_code_unlti_d,
930 #define jit_unler_d(u,v,w)      jit_new_node_www(jit_code_unler_d,u,v,w)
931 #define jit_unlei_d(u,v,w)      jit_new_node_wwd(jit_code_unlei_d,u,v,w)
932     jit_code_unler_d,           jit_code_unlei_d,
933 #define jit_uneqr_d(u,v,w)      jit_new_node_www(jit_code_uneqr_d,u,v,w)
934 #define jit_uneqi_d(u,v,w)      jit_new_node_wwd(jit_code_uneqi_d,u,v,w)
935     jit_code_uneqr_d,           jit_code_uneqi_d,
936 #define jit_unger_d(u,v,w)      jit_new_node_www(jit_code_unger_d,u,v,w)
937 #define jit_ungei_d(u,v,w)      jit_new_node_wwd(jit_code_ungei_d,u,v,w)
938     jit_code_unger_d,           jit_code_ungei_d,
939 #define jit_ungtr_d(u,v,w)      jit_new_node_www(jit_code_ungtr_d,u,v,w)
940 #define jit_ungti_d(u,v,w)      jit_new_node_wwd(jit_code_ungti_d,u,v,w)
941     jit_code_ungtr_d,           jit_code_ungti_d,
942 #define jit_ltgtr_d(u,v,w)      jit_new_node_www(jit_code_ltgtr_d,u,v,w)
943 #define jit_ltgti_d(u,v,w)      jit_new_node_wwd(jit_code_ltgti_d,u,v,w)
944     jit_code_ltgtr_d,           jit_code_ltgti_d,
945 #define jit_ordr_d(u,v,w)       jit_new_node_www(jit_code_ordr_d,u,v,w)
946 #define jit_ordi_d(u,v,w)       jit_new_node_wwd(jit_code_ordi_d,u,v,w)
947     jit_code_ordr_d,            jit_code_ordi_d,
948 #define jit_unordr_d(u,v,w)     jit_new_node_www(jit_code_unordr_d,u,v,w)
949 #define jit_unordi_d(u,v,w)     jit_new_node_wwd(jit_code_unordi_d,u,v,w)
950     jit_code_unordr_d,          jit_code_unordi_d,
951
952 #define jit_truncr_d_i(u,v)     jit_new_node_ww(jit_code_truncr_d_i,u,v)
953     jit_code_truncr_d_i,
954 #if __WORDSIZE == 32
955 #  define jit_truncr_d(u,v)     jit_truncr_d_i(u,v)
956 #else
957 #  define jit_truncr_d(u,v)     jit_truncr_d_l(u,v)
958 #  define jit_truncr_d_l(u,v)   jit_new_node_ww(jit_code_truncr_d_l,u,v)
959 #endif
960     jit_code_truncr_d_l,
961 #define jit_extr_d(u,v)         jit_new_node_ww(jit_code_extr_d,u,v)
962 #define jit_extr_f_d(u,v)       jit_new_node_ww(jit_code_extr_f_d,u,v)
963     jit_code_extr_d,            jit_code_extr_f_d,
964 #define jit_movr_d(u,v)         jit_new_node_ww(jit_code_movr_d,u,v)
965 #define jit_movi_d(u,v)         jit_new_node_wd(jit_code_movi_d,u,v)
966     jit_code_movr_d,            jit_code_movi_d,
967
968 #define jit_ldr_d(u,v)          jit_new_node_ww(jit_code_ldr_d,u,v)
969 #define jit_ldi_d(u,v)          jit_new_node_wp(jit_code_ldi_d,u,v)
970     jit_code_ldr_d,             jit_code_ldi_d,
971 #define jit_ldxr_d(u,v,w)       jit_new_node_www(jit_code_ldxr_d,u,v,w)
972 #define jit_ldxi_d(u,v,w)       jit_new_node_www(jit_code_ldxi_d,u,v,w)
973     jit_code_ldxr_d,            jit_code_ldxi_d,
974 #define jit_str_d(u,v)          jit_new_node_ww(jit_code_str_d,u,v)
975 #define jit_sti_d(u,v)          jit_new_node_pw(jit_code_sti_d,u,v)
976     jit_code_str_d,             jit_code_sti_d,
977 #define jit_stxr_d(u,v,w)       jit_new_node_www(jit_code_stxr_d,u,v,w)
978 #define jit_stxi_d(u,v,w)       jit_new_node_www(jit_code_stxi_d,u,v,w)
979     jit_code_stxr_d,            jit_code_stxi_d,
980
981 #define jit_bltr_d(v,w)         jit_new_node_pww(jit_code_bltr_d,NULL,v,w)
982 #define jit_blti_d(v,w)         jit_new_node_pwd(jit_code_blti_d,NULL,v,w)
983     jit_code_bltr_d,            jit_code_blti_d,
984 #define jit_bler_d(v,w)         jit_new_node_pww(jit_code_bler_d,NULL,v,w)
985 #define jit_blei_d(v,w)         jit_new_node_pwd(jit_code_blei_d,NULL,v,w)
986     jit_code_bler_d,            jit_code_blei_d,
987 #define jit_beqr_d(v,w)         jit_new_node_pww(jit_code_beqr_d,NULL,v,w)
988 #define jit_beqi_d(v,w)         jit_new_node_pwd(jit_code_beqi_d,NULL,v,w)
989     jit_code_beqr_d,            jit_code_beqi_d,
990 #define jit_bger_d(v,w)         jit_new_node_pww(jit_code_bger_d,NULL,v,w)
991 #define jit_bgei_d(v,w)         jit_new_node_pwd(jit_code_bgei_d,NULL,v,w)
992     jit_code_bger_d,            jit_code_bgei_d,
993 #define jit_bgtr_d(v,w)         jit_new_node_pww(jit_code_bgtr_d,NULL,v,w)
994 #define jit_bgti_d(v,w)         jit_new_node_pwd(jit_code_bgti_d,NULL,v,w)
995     jit_code_bgtr_d,            jit_code_bgti_d,
996 #define jit_bner_d(v,w)         jit_new_node_pww(jit_code_bner_d,NULL,v,w)
997 #define jit_bnei_d(v,w)         jit_new_node_pwd(jit_code_bnei_d,NULL,v,w)
998     jit_code_bner_d,            jit_code_bnei_d,
999 #define jit_bunltr_d(v,w)       jit_new_node_pww(jit_code_bunltr_d,NULL,v,w)
1000 #define jit_bunlti_d(v,w)       jit_new_node_pwd(jit_code_bunlti_d,NULL,v,w)
1001     jit_code_bunltr_d,          jit_code_bunlti_d,
1002 #define jit_bunler_d(v,w)       jit_new_node_pww(jit_code_bunler_d,NULL,v,w)
1003 #define jit_bunlei_d(v,w)       jit_new_node_pwd(jit_code_bunlei_d,NULL,v,w)
1004     jit_code_bunler_d,          jit_code_bunlei_d,
1005 #define jit_buneqr_d(v,w)       jit_new_node_pww(jit_code_buneqr_d,NULL,v,w)
1006 #define jit_buneqi_d(v,w)       jit_new_node_pwd(jit_code_buneqi_d,NULL,v,w)
1007     jit_code_buneqr_d,          jit_code_buneqi_d,
1008 #define jit_bunger_d(v,w)       jit_new_node_pww(jit_code_bunger_d,NULL,v,w)
1009 #define jit_bungei_d(v,w)       jit_new_node_pwd(jit_code_bungei_d,NULL,v,w)
1010     jit_code_bunger_d,          jit_code_bungei_d,
1011 #define jit_bungtr_d(v,w)       jit_new_node_pww(jit_code_bungtr_d,NULL,v,w)
1012 #define jit_bungti_d(v,w)       jit_new_node_pwd(jit_code_bungti_d,NULL,v,w)
1013     jit_code_bungtr_d,          jit_code_bungti_d,
1014 #define jit_bltgtr_d(v,w)       jit_new_node_pww(jit_code_bltgtr_d,NULL,v,w)
1015 #define jit_bltgti_d(v,w)       jit_new_node_pwd(jit_code_bltgti_d,NULL,v,w)
1016     jit_code_bltgtr_d,          jit_code_bltgti_d,
1017 #define jit_bordr_d(v,w)        jit_new_node_pww(jit_code_bordr_d,NULL,v,w)
1018 #define jit_bordi_d(v,w)        jit_new_node_pwd(jit_code_bordi_d,NULL,v,w)
1019     jit_code_bordr_d,           jit_code_bordi_d,
1020 #define jit_bunordr_d(v,w)      jit_new_node_pww(jit_code_bunordr_d,NULL,v,w)
1021 #define jit_bunordi_d(v,w)      jit_new_node_pwd(jit_code_bunordi_d,NULL,v,w)
1022     jit_code_bunordr_d,         jit_code_bunordi_d,
1023
1024 #define jit_pushargr_d(u)       _jit_pushargr_d(_jit,u)
1025 #define jit_pushargi_d(u)       _jit_pushargi_d(_jit,u)
1026     jit_code_pushargr_d,        jit_code_pushargi_d,
1027 #define jit_retr_d(u)           _jit_retr_d(_jit,u)
1028 #define jit_reti_d(u)           _jit_reti_d(_jit,u)
1029     jit_code_retr_d,            jit_code_reti_d,
1030 #define jit_retval_d(u)         _jit_retval_d(_jit,u)
1031     jit_code_retval_d,
1032
1033     /* Special internal backend specific codes */
1034     jit_code_movr_w_f,          jit_code_movr_ww_d,     /* w* -> f|d */
1035 #define jit_movr_w_f(u, v)      jit_new_node_ww(jit_code_movr_w_f, u, v)
1036 #define jit_movr_ww_d(u, v, w)  jit_new_node_www(jit_code_movr_ww_d, u, v, w)
1037     jit_code_movr_w_d,                                  /* w -> d */
1038 #define jit_movr_w_d(u, v)      jit_new_node_ww(jit_code_movr_w_d, u, v)
1039
1040     jit_code_movr_f_w,          jit_code_movi_f_w,      /* f|d -> w* */
1041 #define jit_movr_f_w(u, v)      jit_new_node_ww(jit_code_movr_f_w, u, v)
1042 #define jit_movi_f_w(u, v)      jit_new_node_wf(jit_code_movi_f_w, u, v)
1043     jit_code_movr_d_ww,         jit_code_movi_d_ww,
1044 #define jit_movr_d_ww(u, v, w)  jit_new_node_www(jit_code_movr_d_ww, u, v, w)
1045 #define jit_movi_d_ww(u, v, w)  jit_new_node_wwd(jit_code_movi_d_ww, u, v, w)
1046
1047     jit_code_movr_d_w,          jit_code_movi_d_w,      /* d -> w */
1048 #define jit_movr_d_w(u, v)      jit_new_node_ww(jit_code_movr_d_w, u, v)
1049 #define jit_movi_d_w(u, v)      jit_new_node_wd(jit_code_movi_d_w, u, v)
1050
1051 #define jit_clor(u,v)           jit_new_node_ww(jit_code_clor,u,v)
1052 #define jit_clzr(u,v)           jit_new_node_ww(jit_code_clzr,u,v)
1053     jit_code_clor,              jit_code_clzr,
1054
1055 #define jit_ctor(u,v)           jit_new_node_ww(jit_code_ctor,u,v)
1056 #define jit_ctzr(u,v)           jit_new_node_ww(jit_code_ctzr,u,v)
1057     jit_code_ctor,              jit_code_ctzr,
1058
1059     jit_code_last_code
1060 } jit_code_t;
1061
1062 typedef void* (*jit_alloc_func_ptr)     (size_t);
1063 typedef void* (*jit_realloc_func_ptr)   (void*, size_t);
1064 typedef void  (*jit_free_func_ptr)      (void*);
1065
1066 /*
1067  * Prototypes
1068  */
1069 extern void init_jit(const char*);
1070 extern void finish_jit(void);
1071
1072 extern jit_state_t *jit_new_state(void);
1073 #define jit_clear_state()       _jit_clear_state(_jit)
1074 extern void _jit_clear_state(jit_state_t*);
1075 #define jit_destroy_state()     _jit_destroy_state(_jit)
1076 extern void _jit_destroy_state(jit_state_t*);
1077
1078 #define jit_address(node)       _jit_address(_jit, node)
1079 extern jit_pointer_t _jit_address(jit_state_t*, jit_node_t*);
1080 extern jit_node_t *_jit_name(jit_state_t*, const char*);
1081 extern jit_node_t *_jit_note(jit_state_t*, const char*, int);
1082 extern jit_node_t *_jit_label(jit_state_t*);
1083 extern jit_node_t *_jit_forward(jit_state_t*);
1084 extern jit_node_t *_jit_indirect(jit_state_t*);
1085 extern void _jit_link(jit_state_t*, jit_node_t*);
1086 #define jit_forward_p(u)        _jit_forward_p(_jit,u)
1087 extern jit_bool_t _jit_forward_p(jit_state_t*,jit_node_t*);
1088 #define jit_indirect_p(u)       _jit_indirect_p(_jit,u)
1089 extern jit_bool_t _jit_indirect_p(jit_state_t*,jit_node_t*);
1090 #define jit_target_p(u)         _jit_target_p(_jit,u)
1091 extern jit_bool_t _jit_target_p(jit_state_t*,jit_node_t*);
1092
1093 extern void _jit_prolog(jit_state_t*);
1094
1095 extern jit_int32_t _jit_allocai(jit_state_t*, jit_int32_t);
1096 extern void _jit_allocar(jit_state_t*, jit_int32_t, jit_int32_t);
1097 extern void _jit_ellipsis(jit_state_t*);
1098
1099 extern jit_node_t *_jit_arg(jit_state_t*, jit_code_t);
1100
1101 extern void _jit_getarg_c(jit_state_t*, jit_gpr_t, jit_node_t*);
1102 extern void _jit_getarg_uc(jit_state_t*, jit_gpr_t, jit_node_t*);
1103 extern void _jit_getarg_s(jit_state_t*, jit_gpr_t, jit_node_t*);
1104 extern void _jit_getarg_us(jit_state_t*, jit_gpr_t, jit_node_t*);
1105 extern void _jit_getarg_i(jit_state_t*, jit_gpr_t, jit_node_t*);
1106 #if __WORDSIZE == 64
1107 extern void _jit_getarg_ui(jit_state_t*, jit_gpr_t, jit_node_t*);
1108 extern void _jit_getarg_l(jit_state_t*, jit_gpr_t, jit_node_t*);
1109 #endif
1110
1111 extern void _jit_putargr(jit_state_t*, jit_gpr_t, jit_node_t*, jit_code_t);
1112 extern void _jit_putargi(jit_state_t*, jit_word_t, jit_node_t*, jit_code_t);
1113
1114 extern void _jit_prepare(jit_state_t*);
1115 extern void _jit_ellipsis(jit_state_t*);
1116 extern void _jit_va_push(jit_state_t*, jit_gpr_t);
1117
1118 extern void _jit_pushargr(jit_state_t*, jit_gpr_t, jit_code_t);
1119 extern void _jit_pushargi(jit_state_t*, jit_word_t, jit_code_t);
1120
1121 extern void _jit_finishr(jit_state_t*, jit_gpr_t);
1122 extern jit_node_t *_jit_finishi(jit_state_t*, jit_pointer_t);
1123 extern void _jit_ret(jit_state_t*);
1124
1125 extern void _jit_retr(jit_state_t*, jit_gpr_t, jit_code_t);
1126 extern void _jit_reti(jit_state_t*, jit_word_t, jit_code_t);
1127
1128 extern void _jit_retval_c(jit_state_t*, jit_gpr_t);
1129 extern void _jit_retval_uc(jit_state_t*, jit_gpr_t);
1130 extern void _jit_retval_s(jit_state_t*, jit_gpr_t);
1131 extern void _jit_retval_us(jit_state_t*, jit_gpr_t);
1132 extern void _jit_retval_i(jit_state_t*, jit_gpr_t);
1133 #if __WORDSIZE == 64
1134 extern void _jit_retval_ui(jit_state_t*, jit_gpr_t);
1135 extern void _jit_retval_l(jit_state_t*, jit_gpr_t);
1136 #endif
1137
1138 extern void _jit_epilog(jit_state_t*);
1139
1140 #define jit_patch(u)            _jit_patch(_jit,u)
1141 extern void _jit_patch(jit_state_t*, jit_node_t*);
1142 #define jit_patch_at(u,v)       _jit_patch_at(_jit,u,v)
1143 extern void _jit_patch_at(jit_state_t*, jit_node_t*, jit_node_t*);
1144 #define jit_patch_abs(u,v)      _jit_patch_abs(_jit,u,v)
1145 extern void _jit_patch_abs(jit_state_t*, jit_node_t*, jit_pointer_t);
1146 #define jit_realize()           _jit_realize(_jit)
1147 extern void _jit_realize(jit_state_t*);
1148 #define jit_get_code(u)         _jit_get_code(_jit,u)
1149 extern jit_pointer_t _jit_get_code(jit_state_t*, jit_word_t*);
1150 #define jit_set_code(u,v)       _jit_set_code(_jit,u,v)
1151 extern void _jit_set_code(jit_state_t*, jit_pointer_t, jit_word_t);
1152 #define jit_get_data(u,v)       _jit_get_data(_jit,u,v)
1153 extern jit_pointer_t _jit_get_data(jit_state_t*, jit_word_t*, jit_word_t*);
1154 #define jit_set_data(u,v,w)     _jit_set_data(_jit,u,v,w)
1155 extern void _jit_set_data(jit_state_t*, jit_pointer_t, jit_word_t, jit_word_t);
1156 #define jit_frame(u)            _jit_frame(_jit,u)
1157 extern void _jit_frame(jit_state_t*, jit_int32_t);
1158 #define jit_tramp(u)            _jit_tramp(_jit,u)
1159 extern void _jit_tramp(jit_state_t*, jit_int32_t);
1160 #define jit_emit()              _jit_emit(_jit)
1161 extern jit_pointer_t _jit_emit(jit_state_t*);
1162 #define jit_unprotect()         _jit_unprotect(_jit)
1163 extern void _jit_unprotect(jit_state_t*);
1164 #define jit_protect()           _jit_protect(_jit)
1165 extern void _jit_protect(jit_state_t*);
1166
1167 #define jit_print()             _jit_print(_jit)
1168 extern void _jit_print(jit_state_t*);
1169
1170 extern jit_node_t *_jit_arg_f(jit_state_t*);
1171 extern void _jit_getarg_f(jit_state_t*, jit_fpr_t, jit_node_t*);
1172 extern void _jit_putargr_f(jit_state_t*, jit_fpr_t, jit_node_t*);
1173 extern void _jit_putargi_f(jit_state_t*, jit_float32_t, jit_node_t*);
1174 extern void _jit_pushargr_f(jit_state_t*, jit_fpr_t);
1175 extern void _jit_pushargi_f(jit_state_t*, jit_float32_t);
1176 extern void _jit_retr_f(jit_state_t*, jit_fpr_t);
1177 extern void _jit_reti_f(jit_state_t*, jit_float32_t);
1178 extern void _jit_retval_f(jit_state_t*, jit_fpr_t);
1179
1180 extern jit_node_t *_jit_arg_d(jit_state_t*);
1181 extern void _jit_getarg_d(jit_state_t*, jit_fpr_t, jit_node_t*);
1182 extern void _jit_putargr_d(jit_state_t*, jit_fpr_t, jit_node_t*);
1183 extern void _jit_putargi_d(jit_state_t*, jit_float64_t, jit_node_t*);
1184 extern void _jit_pushargr_d(jit_state_t*, jit_fpr_t);
1185 extern void _jit_pushargi_d(jit_state_t*, jit_float64_t);
1186 extern void _jit_retr_d(jit_state_t*, jit_fpr_t);
1187 extern void _jit_reti_d(jit_state_t*, jit_float64_t);
1188 extern void _jit_retval_d(jit_state_t*, jit_fpr_t);
1189
1190 #define jit_get_reg(s)          _jit_get_reg(_jit,s)
1191 extern jit_int32_t _jit_get_reg(jit_state_t*, jit_int32_t);
1192
1193 #define jit_unget_reg(r)        _jit_unget_reg(_jit,r)
1194 extern void _jit_unget_reg(jit_state_t*, jit_int32_t);
1195
1196 #define jit_new_node(c)         _jit_new_node(_jit,c)
1197 extern jit_node_t *_jit_new_node(jit_state_t*, jit_code_t);
1198 #define jit_new_node_w(c,u)     _jit_new_node_w(_jit,c,u)
1199 extern jit_node_t *_jit_new_node_w(jit_state_t*, jit_code_t,
1200                                    jit_word_t);
1201 #define jit_new_node_f(c,u)     _jit_new_node_f(_jit,c,u)
1202 extern jit_node_t *_jit_new_node_f(jit_state_t*, jit_code_t,
1203                                    jit_float32_t);
1204 #define jit_new_node_d(c,u)     _jit_new_node_d(_jit,c,u)
1205 extern jit_node_t *_jit_new_node_d(jit_state_t*, jit_code_t,
1206                                    jit_float64_t);
1207 #define jit_new_node_p(c,u)     _jit_new_node_p(_jit,c,u)
1208 extern jit_node_t *_jit_new_node_p(jit_state_t*, jit_code_t,
1209                                    jit_pointer_t);
1210 #define jit_new_node_ww(c,u,v)  _jit_new_node_ww(_jit,c,u,v)
1211 extern jit_node_t *_jit_new_node_ww(jit_state_t*,jit_code_t,
1212                                     jit_word_t, jit_word_t);
1213 #define jit_new_node_wp(c,u,v)  _jit_new_node_wp(_jit,c,u,v)
1214 extern jit_node_t *_jit_new_node_wp(jit_state_t*,jit_code_t,
1215                                     jit_word_t, jit_pointer_t);
1216 #define jit_new_node_fp(c,u,v)  _jit_new_node_fp(_jit,c,u,v)
1217 extern jit_node_t *_jit_new_node_fp(jit_state_t*,jit_code_t,
1218                                     jit_float32_t, jit_pointer_t);
1219 #define jit_new_node_dp(c,u,v)  _jit_new_node_dp(_jit,c,u,v)
1220 extern jit_node_t *_jit_new_node_dp(jit_state_t*,jit_code_t,
1221                                     jit_float64_t, jit_pointer_t);
1222 #define jit_new_node_pw(c,u,v)  _jit_new_node_pw(_jit,c,u,v)
1223 extern jit_node_t *_jit_new_node_pw(jit_state_t*,jit_code_t,
1224                                     jit_pointer_t, jit_word_t);
1225 #define jit_new_node_wf(c,u,v)  _jit_new_node_wf(_jit,c,u,v)
1226 extern jit_node_t *_jit_new_node_wf(jit_state_t*, jit_code_t,
1227                                     jit_word_t, jit_float32_t);
1228 #define jit_new_node_wd(c,u,v)  _jit_new_node_wd(_jit,c,u,v)
1229 extern jit_node_t *_jit_new_node_wd(jit_state_t*, jit_code_t,
1230                                     jit_word_t, jit_float64_t);
1231 #define jit_new_node_www(c,u,v,w) _jit_new_node_www(_jit,c,u,v,w)
1232 extern jit_node_t *_jit_new_node_www(jit_state_t*, jit_code_t,
1233                                      jit_word_t, jit_word_t, jit_word_t);
1234 #define jit_new_node_qww(c,l,h,v,w) _jit_new_node_qww(_jit,c,l,h,v,w)
1235 extern jit_node_t *_jit_new_node_qww(jit_state_t*, jit_code_t,
1236                                      jit_int32_t, jit_int32_t,
1237                                      jit_word_t, jit_word_t);
1238 #define jit_new_node_wwq(c,u,v,l,h) _jit_new_node_wwq(_jit,c,u,v,l,h)
1239 extern jit_node_t *_jit_new_node_wwq(jit_state_t*, jit_code_t,
1240                                      jit_word_t, jit_word_t,
1241                                      jit_int32_t, jit_int32_t);
1242 #define jit_new_node_wwf(c,u,v,w) _jit_new_node_wwf(_jit,c,u,v,w)
1243 extern jit_node_t *_jit_new_node_wwf(jit_state_t*, jit_code_t,
1244                                      jit_word_t, jit_word_t, jit_float32_t);
1245 #define jit_new_node_wwd(c,u,v,w) _jit_new_node_wwd(_jit,c,u,v,w)
1246 extern jit_node_t *_jit_new_node_wwd(jit_state_t*, jit_code_t,
1247                                      jit_word_t, jit_word_t, jit_float64_t);
1248 #define jit_new_node_pww(c,u,v,w) _jit_new_node_pww(_jit,c,u,v,w)
1249 extern jit_node_t *_jit_new_node_pww(jit_state_t*, jit_code_t,
1250                                      jit_pointer_t, jit_word_t, jit_word_t);
1251 #define jit_new_node_pwf(c,u,v,w) _jit_new_node_pwf(_jit,c,u,v,w)
1252 extern jit_node_t *_jit_new_node_pwf(jit_state_t*, jit_code_t,
1253                                      jit_pointer_t, jit_word_t, jit_float32_t);
1254 #define jit_new_node_pwd(c,u,v,w) _jit_new_node_pwd(_jit,c,u,v,w)
1255 extern jit_node_t *_jit_new_node_pwd(jit_state_t*, jit_code_t,
1256                                      jit_pointer_t, jit_word_t, jit_float64_t);
1257
1258 #define jit_arg_register_p(u)           _jit_arg_register_p(_jit,u)
1259 extern jit_bool_t _jit_arg_register_p(jit_state_t*, jit_node_t*);
1260 #define jit_callee_save_p(u)            _jit_callee_save_p(_jit,u)
1261 extern jit_bool_t _jit_callee_save_p(jit_state_t*, jit_int32_t);
1262 #define jit_pointer_p(u)                _jit_pointer_p(_jit,u)
1263 extern jit_bool_t _jit_pointer_p(jit_state_t*,jit_pointer_t);
1264
1265 #define jit_get_note(n,u,v,w)   _jit_get_note(_jit,n,u,v,w)
1266 extern jit_bool_t _jit_get_note(jit_state_t*,jit_pointer_t,char**,char**,int*);
1267
1268 #define jit_disassemble()               _jit_disassemble(_jit)
1269 extern void _jit_disassemble(jit_state_t*);
1270
1271 extern void jit_set_memory_functions(jit_alloc_func_ptr,
1272                                      jit_realloc_func_ptr,
1273                                      jit_free_func_ptr);
1274 extern void jit_get_memory_functions(jit_alloc_func_ptr*,
1275                                      jit_realloc_func_ptr*,
1276                                      jit_free_func_ptr*);
1277
1278 #endif /* _lightning_h */